توهمات هوش مصنوعی چی هستن؟

توهم هوش مصنوعی یعنی وقتی که یک مدل زبان بزرگ (LLM)، الگوها یا چیزهایی رو می‌بینه که اصلاً وجود ندارن و در نتیجه، خروجی‌های بی‌معنی یا نادرستی رو تحویل میده.

توهم هوش مصنوعی چیه؟

توهم هوش مصنوعی پدیده‌ایه که تو اون، یک مدل زبان بزرگ (LLM) – که معمولاً یک هوش مصنوعی مولد مثل چت‌بات‌ها یا یک ابزار بینایی کامپیوتره – الگوها یا چیزهایی رو می‌بینه که وجود خارجی ندارن یا برای ما آدما قابل دیدن نیستن. نتیجه این اتفاق، خروجی‌های بی‌معنی یا کاملاً اشتباهه.

معمولاً وقتی کاربری از یک ابزار هوش مصنوعی مولد چیزی می‌خواد، انتظار داره خروجی‌ای بگیره که دقیقاً به درخواستش (یعنی یک جواب درست برای سؤالش) ربط داشته باشه. اما بعضی وقتا، الگوریتم‌های هوش مصنوعی خروجی‌هایی تولید می‌کنن که بر اساس داده‌های آموزشی‌شون نیست، توسط ترنسفورمر (بخش پردازشی مدل) اشتباه کدگشایی شده، یا از هیچ الگوی قابل تشخیصی پیروی نمی‌کنه. به عبارت دیگه، جواب رو از خودش «می‌سازه» یا «توهم» می‌زنه.

شاید این اصطلاح به نظرتون عجیب بیاد، چون معمولاً توهم زدن رو به مغز انسان یا حیوانات نسبت می‌دیم، نه به ماشین‌ها. اما اگه بهش به چشم یک استعاره نگاه کنیم، این کلمه خیلی دقیق این نوع خروجی‌ها رو توصیف می‌کنه، مخصوصاً تو زمینه تشخیص تصویر و الگو (که خروجی‌ها می‌تونن واقعاً ظاهری سورئال داشته باشن).

توهم هوش مصنوعی چیزی شبیه به اینه که ما آدما گاهی توی ابرها شکل‌های مختلف می‌بینیم یا روی ماه چهره آدم تصور می‌کنیم. تو دنیای هوش مصنوعی، این برداشت‌های اشتباه به دلایل مختلفی اتفاق میفته؛ مثل بیش‌برازش (Overfitting)، سوگیری یا دقیق نبودن داده‌های آموزشی و پیچیدگی زیاد خود مدل.

جلوگیری از مشکلات این‌چنینی تو تکنولوژی‌های مولد و متن‌باز می‌تونه چالش‌برانگیز باشه. چند تا نمونه معروف از توهم هوش مصنوعی ایناست:

• چت‌بات Bard گوگل به اشتباه ادعا کرد که تلسکوپ فضایی جیمز وب اولین تصاویر از سیاره‌ای خارج از منظومه شمسی ما رو ثبت کرده.
• هوش مصنوعی چت مایکروسافت، سیدنی (Sydney)، اعتراف کرد که عاشق کاربرا شده و از کارمندای بینگ جاسوسی می‌کرده.
• متا نسخه دموی مدل زبان بزرگ خودش یعنی Galactica رو در سال ۲۰۲۲ جمع‌آوری کرد، چون به کاربرا اطلاعات نادرست و گاهی اوقات مبتنی بر پیش‌داوری‌های غلط می‌داد.

با اینکه خیلی از این مشکلات بعداً بررسی و حل شدن، اما این مثال‌ها به خوبی نشون میده که حتی تو بهترین حالت هم، استفاده از ابزارهای هوش مصنوعی می‌تونه عواقب پیش‌بینی‌نشده و ناخوشایندی داشته باشه.

پیامدهای توهم هوش مصنوعی

توهم هوش مصنوعی می‌تونه پیامدهای جدی‌ای تو کاربردهای دنیای واقعی داشته باشه. مثلاً، یک مدل هوش مصنوعی تو حوزه سلامت ممکنه به اشتباه یک ضایعه پوستی خوش‌خیم رو بدخیم تشخیص بده و این منجر به درمان‌های پزشکی غیرضروری بشه. مشکلات توهم هوش مصنوعی می‌تونه به پخش اطلاعات غلط هم دامن بزنه. فرض کنید ربات‌های خبری که دچار توهم شدن، به سؤالات مربوط به یک وضعیت اضطراری، اطلاعاتی بدن که هنوز راستی‌آزمایی نشده؛ این کار می‌تونه خیلی سریع باعث پخش شایعاتی بشه که تلاش‌ها برای مهار بحران رو خراب می‌کنه. یکی از دلایل اصلی توهم تو الگوریتم‌های یادگیری ماشین، سوگیری داده‌های ورودی هست. اگه یک مدل هوش مصنوعی با مجموعه‌داده‌ای آموزش ببینه که جانبدارانه یا ناقصه، ممکنه الگوها یا ویژگی‌هایی رو توهم بزنه که همین سوگیری‌ها رو نشون میدن.

مدل‌های هوش مصنوعی در برابر «حملات تخاصمی» (adversarial attack) هم آسیب‌پذیرن. تو این حملات، افراد خرابکار با دستکاری جزئی و نامحسوس داده‌های ورودی، خروجی مدل رو تغییر میدن. مثلاً تو تشخیص تصویر، یک حمله تخاصمی می‌تونه اینطوری باشه که مقدار کمی نویز خاص و دستکاری‌شده به یک عکس اضافه کنن تا هوش مصنوعی اون رو اشتباه طبقه‌بندی کنه. این موضوع می‌تونه به یک نگرانی امنیتی جدی تبدیل بشه، مخصوصاً تو حوزه‌های حساسی مثل امنیت سایبری و ماشین‌های خودران. محققای هوش مصنوعی دائماً در حال توسعه سازوکارهای حفاظتی برای محافظت از ابزارهای هوش مصنوعی در برابر این حملات هستن. تکنیک‌هایی مثل «آموزش تخاصمی» که تو اون مدل هم با داده‌های عادی و هم با نمونه‌های تخاصمی آموزش می‌بینه، داره مشکلات امنیتی رو کمتر می‌کنه. اما تا اون موقع، هوشیاری کامل تو مراحل آموزش و راستی‌آزمایی، حرف اول رو می‌زنه.

چطوری از توهم هوش مصنوعی جلوگیری کنیم؟

بهترین راه برای کم کردن اثرات توهم هوش مصنوعی اینه که از همون اول جلوی اتفاق افتادنش رو بگیریم. اینجا چند تا راهکار رو گفتیم که کمک می‌کنه مدل‌های هوش مصنوعی شما بهینه کار کنن:

از داده‌های آموزشی باکیفیت استفاده کنید

مدل‌های هوش مصنوعی مولد برای انجام کارهاشون به داده‌های ورودی وابسته‌ان، پس کیفیت و مرتبط بودن مجموعه‌داده‌های آموزشی، رفتار مدل و کیفیت خروجی‌هاش رو تعیین می‌کنه. برای جلوگیری از توهم، مطمئن بشید که مدل‌های هوش مصنوعی با داده‌های متنوع، متعادل و خوش‌ساختار آموزش دیدن. این کار کمک می‌کنه مدل شما سوگیری کمتری تو خروجی داشته باشه، وظایفش رو بهتر بفهمه و در نهایت خروجی‌های مؤثرتری تولید کنه.

هدف مدل هوش مصنوعی‌تون رو مشخص کنید

اینکه دقیقاً مشخص کنید قراره از مدل هوش مصنوعی چطور استفاده بشه و چه محدودیت‌هایی داره، به کاهش توهم کمک زیادی می‌کنه. تیم یا سازمان شما باید مسئولیت‌ها و محدودیت‌های سیستم هوش مصنوعی انتخاب‌شده رو تعیین کنه؛ این کار باعث میشه سیستم وظایفش رو بهتر انجام بده و نتایج نامربوط و «توهمی» رو به حداقل برسونه.

از قالب‌های داده (Data Templates) استفاده کنید

قالب‌های داده یک فرمت از پیش تعریف‌شده در اختیار تیم‌ها قرار میدن و اینطوری احتمال اینکه مدل هوش مصنوعی خروجی‌هایی مطابق با دستورالعمل‌های مشخص‌شده تولید کنه، بیشتر میشه. استفاده از این قالب‌ها، یکپارچگی خروجی رو تضمین می‌کنه و احتمال تولید نتایج اشتباه رو کم می‌کنه.

پاسخ‌ها رو محدود کنید

مدل‌های هوش مصنوعی اغلب به این دلیل توهم می‌زنن که هیچ محدودیتی برای نتایج احتمالی ندارن. برای جلوگیری از این مشکل و بهبود کلی یکپارچگی و دقت نتایج، با استفاده از ابزارهای فیلترینگ یا آستانه‌های احتمالیِ واضح، برای مدل‌های هوش مصنوعی مرز تعیین کنید.

سیستم رو دائماً تست و بهینه‌سازی کنید

تست دقیق مدل هوش مصنوعی قبل از استفاده و ارزیابی مداوم اون، برای جلوگیری از توهم حیاتیه. این فرآیندها عملکرد کلی سیستم رو بهتر می‌کنن و به کاربرا اجازه میدن با قدیمی شدن و تغییر داده‌ها، مدل رو تنظیم و دوباره آموزش بدن.

به نظارت انسانی تکیه کنید

اینکه مطمئن بشیم یک انسان خروجی‌های هوش مصنوعی رو تأیید و بازبینی می‌کنه، آخرین راهکار برای جلوگیری از توهمه. دخالت نظارت انسانی تضمین می‌کنه که اگه هوش مصنوعی دچار توهم شد، یک نفر برای فیلتر و اصلاح اون وجود داشته باشه. یک بازبین انسانی می‌تونه با تخصص خودش، محتوای تولیدشده توسط هوش مصنوعی رو از نظر دقت و ارتباط با موضوع، بهتر ارزیابی کنه.

کاربردهای (مثبت!) توهم هوش مصنوعی

با اینکه توهم هوش مصنوعی تو بیشتر موارد یک اتفاق ناخواسته‌اس، اما کاربردهای جالبی هم داره که می‌تونه به سازمان‌ها کمک کنه از پتانسیل خلاقانه اون به شکل مثبت استفاده کنن. چند تا مثال:

هنر و طراحی

توهم هوش مصنوعی یک رویکرد جدید برای خلق آثار هنریه و ابزاری در اختیار هنرمندان، طراحان و بقیه خلاقان قرار میده تا تصاویر خیره‌کننده و خلاقانه‌ای تولید کنن. با قابلیت‌های توهم‌زای هوش مصنوعی، هنرمندان می‌تونن تصاویر سورئال و رؤیاگونه‌ای بسازن که به خلق شکل‌ها و سبک‌های جدید هنری منجر میشه.

مصورسازی و تفسیر داده‌ها

توهم هوش مصنوعی می‌تونه با پیدا کردن ارتباطات جدید و ارائه دیدگاه‌های متفاوت به اطلاعات پیچیده، فرایند مصورسازی داده‌ها رو ساده‌تر کنه. این قابلیت مخصوصاً تو زمینه‌هایی مثل امور مالی خیلی ارزشمنده، چون مصورسازی روندهای پیچیده بازار و داده‌های مالی، به تصمیم‌گیری‌های دقیق‌تر و تحلیل بهتر ریسک کمک می‌کنه.

بازی‌های ویدیویی و واقعیت مجازی (VR)

توهم هوش مصنوعی می‌تونه تجربه‌های فراگیر تو دنیای بازی و واقعیت مجازی رو هم جذاب‌تر کنه. استفاده از مدل‌های هوش مصنوعی برای توهم و ساخت محیط‌های مجازی، به توسعه‌دهنده‌های بازی و طراحان VR کمک می‌کنه تا دنیاهای جدیدی رو تصور کنن که تجربه کاربری رو به سطح بالاتری می‌بره. توهم می‌تونه عنصر غافلگیری، غیرقابل پیش‌بینی بودن و نوآوری رو هم به تجربه‌های بازی اضافه کنه.