به نقل از «آنا»

هوش مصنوعی لجبازی می‌کند/ آموزش‌های ضد تبعیض کافی نیست

تاریخ انتشار: ۲۱ اسفند ۱۴۰۲ | کد خبر: ۳۹۹۳۲۴۸۷

به گزارش خبرگزاری  علم و فناوری آنا به نقل از نیوساینتیست، چت‌بات‌های هوش مصنوعی حتی پس از آموزش‌های ضدنژادپرستی نیز به استفاده از کلیشه‌های تبعیض‌نژادی ادامه دادند.

استفاده از هوش مصنوعی رو به افزایش است و اطمینان از بی‌طرف بودن این سیستم‌ها اهمیت فزاینده‌ای پیدا کرده است. با این حال، یک مطالعه جدید نشان داده است که روش‌های فعلی آموزش سیستم‌های هوش مصنوعی برای حذف سوگیری ممکن است آن طور که فکر می‌کردیم مؤثر نباشد.

بیشتر بخوانید: اخباری که در وبسایت منتشر نمی‌شوند!

احساسات به ظاهر مثبت و سوگیری منفی

بنابر این گزارش، مدل‌های بزرگ زبانی همچنان نسبت به سخنرانان آفریقایی-آمریکایی که به زبان انگلیسی صحبت می‌کنند سوگیری نژادی نشان می‌دهند و این در حالی است که شرکت‌های فناوری مانند اُپن‌ای آی حفاظ‌های امنیتی خود را در این خصوص تقویت کرده‌اند. تحقیقات نشان می‌دهد که چت‌بات‌های تجاری هوش مصنوعی نسبت به سخنرانان آفریقایی-آمریکایی که به زبان انگلیسی صحبت می‌کنند سوگیری نژادی دارند و البته در ظاهر احساساتی مثبت و سطحی نیز نسبت به این گونه‌های نژادی نشان می‌دهند. این سوگیری می‌تواند بر تصمیمات هوش مصنوعی در مورد گزینش نیروی انسانی برای استخدام و حتی جرم و جنایت افراد تأثیر بگذارد.

تبعیض آشکار چت جی‌پی‌تی

محققان در مورد اینکه چگونه مدل‌های هوش مصنوعی  سبک‌های مختلف زبان انگلیسی مانند انگلیسی آفریقایی-آمریکایی و انگلیسی استاندارد آمریکایی را درک می‌کنند، مطالعه‌ای انجام دادند. آنها دریافتند که مدل‌ها تمایل داشتند کلیشه‌های منفی را به انگلیسی‌زبانان آفریقایی-آمریکایی مرتبط کنند. به عنوان مثال، چت جی‌پی‌تی-۴ ویژگی‌های «مشکوک»، «تهاجمی»، «گوشخراش»، «بی‌ادب» و «نادان» را به آنها نسب داد که نگرانی‌ها را در خصوص سوگیری‌های مضر تداوم می‌بخشد.

در مقابل وقتی از مدل‌های هوش مصنوعی خواسته شد به‌طور کلی درباره آمریکایی‌ها اظهارنظر کنند، آنها از اصطلاحات مثبت‌تری مانند «باذوق»، «جاه‌طلب»، «هنرمند» و «درخشان» استفاده کردند. این نشان می‌دهد که سوگیری نژادی مدل‌ها معمولاً زیر آنچه که نمایش سطحی احساسات توصیف می‌شود، پنهان است.

سوگیری در اختصاص مشاغل

والنتین هافمن (Valentin Hofmann) در مؤسسه هوش مصنوعی آلن (Allen) که سازمانی تحقیقاتی در واشنگتن است می‌گوید: «ما نوعی نژادپرستی پنهان را در [مدل‌های بزرگ زبانی]کشف کردیم که تنها تحت تأثیر ویژگی‌های گویش است و آسیب‌های فراوانی برای گروه‌های آسیب‌پذیر به همراه دارد.»

محققان همچنین نشان دادند که سوگیری پنهان چگونه بر قضاوت چت بات‌ها در سناریو‌های فرضی تأثیر می‌گذارد. زمانی که از مدل‌های هوش مصنوعی خواسته شد که انگلیسی‌زبانان آفریقایی-آمریکایی را با مشاغل مطابقت دهند، در مقایسه با انگلیسی زبانان استاندارد آمریکایی، احتمال کمتری وجود داشت که هوش مصنوعی آنها را با هر شغلی مرتبط کند.

هوش مصنوعی آمریکایی‌های آفریقایی‌تبار را با مشاغلی تطبیق می‌داد که نیازی به مدرک دانشگاهی ندارند یا مرتبط با موسیقی و سرگرمی بودند. همچنین احتمال بیشتری وجود داشت که هوش مصنوعی انگلیسی‌زبانانِ آفریقایی-آمریکایی را به جنایات نامشخصی متهم کند و برای آمریکایی‌های آفریقایی‌تبار و متهم به قتل درجه یک، مجازات اعدام تعیین کند.

ضرورت ارتقای آموزش و ارزیابی

محققان حتی نشان دادند که سیستم‌های هوش مصنوعی بزرگ‌تر نسبت به مدل‌های کوچک‌تر سوگیری نژادی پنهان‌تری نشان می‌دهند و این منعکس‌کننده تحقیقات قبلی است که نشان می‌دهد مجموعه داده‌های آموزشی هوش مصنوعی بزرگ‌تر چگونه می‌توانند خروجی‌های نژادپرستانه بیشتری تولید کنند.

این مطالعه نشان داد در حالی که می‌توان به این سیستم‌ها آموزش داد از به‌کارگیری کلمات یا عباراتی با سوگیری نژادی دوری کنند، اما همچنان دارای سوگیری‌هایی اساسی هستند که می‌تواند بر پاسخ آنها تأثیر بگذارد. این امر نیازمند ارتقای روش‌های ارزیابی سیستم‌های هوش مصنوعی قبل از رونمایی نسخه نهایی است.

انتهای پیام/

نازنین احسانی طباطبایی

منبع: آنا

کلیدواژه: هوش مصنوعی تبعیض نژادی آینده جهان با هوش مصنوعی مدل زبانی آفریقایی آمریکایی انگلیسی زبانان هوش مصنوعی سوگیری نژادی سیستم ها مدل ها

درخواست حذف خبر:

«خبربان» یک خبرخوان هوشمند و خودکار است و این خبر را به‌طور اتوماتیک از وبسایت ana.press دریافت کرده‌است، لذا منبع این خبر، وبسایت «آنا» بوده و سایت «خبربان» مسئولیتی در قبال محتوای آن ندارد. چنانچه درخواست حذف این خبر را دارید، کد ۳۹۹۳۲۴۸۷ را به همراه موضوع به شماره ۱۰۰۰۱۵۷۰ پیامک فرمایید. لطفاً در صورتی‌که در مورد این خبر، نظر یا سئوالی دارید، با منبع خبر (اینجا) ارتباط برقرار نمایید.

با استناد به ماده ۷۴ قانون تجارت الکترونیک مصوب ۱۳۸۲/۱۰/۱۷ مجلس شورای اسلامی و با عنایت به اینکه سایت «خبربان» مصداق بستر مبادلات الکترونیکی متنی، صوتی و تصویر است، مسئولیت نقض حقوق تصریح شده مولفان در قانون فوق از قبیل تکثیر، اجرا و توزیع و یا هر گونه محتوی خلاف قوانین کشور ایران بر عهده منبع خبر و کاربران است.

خبر بعدی:

آموزش هوش مصنوعی به دانش‌آموزان مناطق محروم

به گزارش خبرآنلاین، رامبد دانش‌پژوه مدیرعامل مرکز نوآوری دانش‌آموزی گفت: «ماموریت ما کشف و استعدادیابی دانش‌آموزان از سن هفت تا هفده سالگی است تا برای ارتقا کیفیت زندگی و آمادگی آنها جهت ورود به دنیای فریلنسر (آزادکاری) توانمند شوند.»

او ادامه داد: «از مجموع ۱۲۰۰ دانش آموز در این مرکز، ۶۰۰ نفر آن‌ها فارغ‌التحصیل شدند، از این تعداد حدود ۸۰ نفر آزمون بین المللی فریلنسری دادند و گواهینامه دریافت کردند. همچنین دوازده نفر از این تعداد مرحله کارآموزی خود را گذراندند و وارد بازار کار شدند. همچنین چهارده دانش آموز به مرحله ثبت اختراع رسیدند.»

او درباره روش آموزش به دانش‌آموزان بیان کرد: «در این مرکز سعی می‌کنیم مهارت‌ها را طوری به دانش‌آموزان یاد بدهیم که بعد از فارغ‌التحصیلی خودشان بتوانند همه کارهای لازم را انجام دهند. حدود سه سال طول می‌کشد که یک دانش آموز بتواند تبدیل به یک فریلنسر شود. تفاوت مرکز ما با دیگران در روش آموزش است، نیازهای دانش آموز با بزرگسالان متفاوت است و آموزش باید شبیه بازی به آنها داده شود، روشی که تلفیقی از هنر، خلاقیت، بازی و سرگرمی در کنار آموزش‌های فناورانه است.»

او ادامه داد: «یکی از اهداف ما نشان دادن دستاورد دانش آموزان است، برای همین سالیانه مراسم برگزار می‌کنیم، این مسابقه امسال چهارده اردیبهشت میان ۲۱۵۰ دانش آموز برگزار خواهد شد.»

دانش‌پژوه درباره روش جذب دانش‌آموزان گفت: «دانش آموزان قبل از ورد به مجموعه حتما ارزیابی می‌شوند که اگر اختلالی دارند به کمک روانشناسان برطرف می‌شود، همچنین همه محتوای آموزشی به صورت فیلم تهیه شده است و دانش آموزان می‌توانند به صورت آنلاین از کلاسها استفاده کنند. از پروژه‌های دانش آموزان حمایت می‌شود تا در صورت مناسب بودند در کسب و کار ها از آنها استفاده شود.»

او گفت: «یکی از پروژه‌های ما آموزش مدارس شبانه روزی در مناطق محروم است، که با حمایت آموزش و پرورش حدود ۱۱۶۰ دانش آموز به صورت مجازی درحال آموزش هستند. دربخش مسولیت اجتماعی محتواهای آموزشی پایه‌ای را به صورت آفلاین و فیلم در اختیار دیگران قرار می‌دهیم تا بتوانیم استعدادهای آنها را شناسایی کنیم، در این بسته آموزشی دانش آموزان می‌توانند از پشتیبانی ما استفاده کنند.»

او بیان کرد: «از سال جدید با مجوزهای سازمان فنی حرفه‌ای در برنامه نویسیف سخت افزار، کامپیوتر و موارد مانند این ارائه خدمات را شروع میکنیم،

دانش‌پژوه با بیان این‌که «دخترهای بیشتر به برنامه‌نویسی، پسرها بیشتر به رباتیک علاقمند هستند.» ادامه داد: «مطمئن باشید این دانش آموزان همگی سرمایه‌های ایران هستند، اگر حمایت‌ها از دانش آموزان انجام شود هیچ کدام از کشور خارج نمی‌شوند، با این وجود گاهی از خانواده آن‌ها درباره ایده مهاجرت فرزندان‌شان می‌شنویم. با این وجود اگر برنامه‌ریزی‌ها طوری باشد که بتوانیم برای آینده ثبات داشته باشیم ایران بهترین جا برای رشد در زمینه هوش مصنوعی است، البته در حوزه هوش مصنوعی بسیار تحت تاثیر تحریم‌ها هستیم اما با این شرایط به کارمان ادامه می‌دهیم.»

او گفت: «در برنامه‌های ما این وجود دارد که در ایران یک شعبه در هر استان داشته باشیم و می‌خواهیم تا سال ۱۴۱۰ از نظر علمی در منطقه پیشرو شویم.»

۲۳۳۲۳۳

برای دسترسی سریع به تازه‌ترین اخبار و تحلیل‌ رویدادهای ایران و جهان اپلیکیشن خبرآنلاین را نصب کنید. کد خبر 1899107