هوش مصنوعی هم توهم می‌زند؛ مراقب باشید!

نتایج بررسی های علمی نشان می دهد که میزان توهم در مدل‌های هوش مصنوعی با توانایی استدلال پیشرفته درحال افزایش است.

کد خبر: ۶۹۹۴۹۴

تاریخ: ۰۴ خرداد ۱۴۰۴ - ۰۷:۲۰

به گزارش صراط نیوز به نقل از اطلاعات آنلاین،«داریو آمودی»، مدیرعامل شرکت هوش مصنوعی آنتروپیک، معتقد است که مدل‌های هوش مصنوعی امروزی کمتر از انسان‌ها دچار توهم می‌شوند. توهم زدن مدل‌های هوش مصنوعی به معنای آن است که این مدل‌ها اطلاعات جعلی می‌سازند و آن‌ها را طوری ارائه می‌دهند که گویی واقعیت دارند.

مدیرعامل آنتروپیک که در نخستین رویداد توسعه‌دهندگان این شرکت در سانفرانسیسکو حضور یافته بود، ادعا کرد که میزان توهم زدن مدل‌های هوش مصنوعی کمتر از انسان‌ها است. آمودی این صحبت‌ها را در پاسخ به این موضوع که توهمات هوش مصنوعی مانعی بر سر راه آنتروپیک برای دستیابی به AGI نیست مطرح کرد.

آمودی در این باره گفت: «این واقعاً بستگی دارد که چطور آن را اندازه‌گیری کنید، اما حدس می‌زنم مدل‌های هوش مصنوعی احتمالاً کمتر از انسان‌ها دچار توهم می‌شوند، ولی توهمات آن‌ها به شکل‌های غافلگیرکننده‌تری بروز می‌کند.»

مدیرعامل آنتروپیک یکی از خوش‌بین‌ترین افراد در صنعت هوش مصنوعی نسبت به دستیابی به هوش جامع مصنوعی (AGI) است. او سال گذشته مقاله‌ای را منتشر کرد و گفت که معتقد است شرکت‌های فعال در این حوزه می‌توانند تا سال ۲۰۲۶ به هوش جامع مصنوعی دست یابند. آمودی همچنین در نشست خبری روز گذشته خود گفت که پیشرفت به‌سوی دستیابی به این هدف به‌طور پیوسته درحال انجام است.

در مقابل، برخی دیگر از رهبران حوزه هوش مصنوعی معتقدند که توهم، مانعی بزرگ در مسیر دستیابی به هوش جامع مصنوعی است. برای مثال، «دمیس هسابیس»، مدیرعامل گوگل DeepMind، می‌گوید که مدل‌های فعلی هوش مصنوعی هنوز حفره‌های زیادی دارند و به پرسش‌های بدیهی زیادی پاسخ نادرست می‌دهند. برای مثال، اوایل همین ماه، شرکت آنتروپیک به دلیل توهم زدن یکی از مدل‌های این شرکت و ارائه اسامی نادرست در یک پرونده قضایی مجبور به عذرخواهی شد.

بااین‌حال، شواهدی وجود دارد که نشان می‌دهد میزان توهم در مدل‌های هوش مصنوعی با توانایی استدلال پیشرفته درحال افزایش است. برای مثال، مدل‌های o۳ و o4-mini شرکت OpenAI نرخ توهم بالاتری نسبت به مدل های نسل قبلی این شرکت دارند و خود OpenAI هنوز دلیل این موضوع را کشف نکرده است.