توهم هوش مصنوعی دامن خودش را گرفت

به گزارش تجهیزات جانبی به نقل از انگجت، موسسه KMPG در اکتبر سال قبل گزارشی با عنوان«تجربه کامل: باز تعریف ایده آل در عصر هوش مصنوعی عاملی»منتشر کرد که درباره ی آن بود که چه طور شرکتها از هوش مصنوعی برای تامین نیازهای مشتری استفاده می نمایند. KMPG یکی از چهار شرکت عرضه کننده خدمات حرفه ای و حسابداری در جهان به حساب می آید. حال به نظر می آید این گزارش مملو از توهمات هوش مصنوعی بوده و برخی نمونه های هوش مصنوعی عاملی در آن به کار رفته که وجود ندارد اما قابلیت هایی که این شرکت در گزارش اشاره کرده را ندارند.

محققان موسسه GPTZero، سازنده ابزارهای ردیابی محتوای هوش مصنوعی، متوجه موارد ناصحیح و پانوشت های جعلی در تمام گزارش شده است. نشریه فایننشال تایمز نیز این امر را تایید کرده است. پژوهشگران GPRZero در مطالعه خود اعلام نمودند از ۴۵ استناد فقط پنج مورد به درستی به منابع واقعی اشاره کرده اند. در کل ۲۸ مورد از استنادها عنوان منابع را بصورت بازنویسی شده ارایه کرده بودند یا اجزای ساختگی و غیرواقعی به منابع واقعی اضافه کرده بودند. از طرفی ۱۲ استناد نیز به اندازه ای مبهم باز نویسی شده بودند که امکان تشخیص وجود واقعی بودن آنها وجود نداشت. GPTZero پدیده تولید منابع و ارجاعات ساختگی توسط مدلهای هوش مصنوعی را اصطلاح «استناد برمبنای حدس و گمان» یا «Vibe Citing»نامیده است.

محققان علاوه بر استنادات جعلی یا ناصحیح متوجه شدند حدود نیمی از ادعاهای عنوان شده در پژوهش مذکور جعلی یا به اشتباه منتسب شده است.GPTZero در اینباره نوشته است: این موارد احتمالاً بنابراین آن ایجاد شده که یک ابزار مطالعه هوش مصنوعی از دستوری برای یافتن نمونه های «هوش مصنوعی عاملی» بیش از حد پیروی کرده است. KMPG در یک نمونه مدعی شده بوده شرکت هواپیمایی«امارات»یک چت بات موبایلی به نام «سارا»راه اندازی کرده که می تواند با مسافران گفتگو کند و حتی پروازهای آنها را از طرفشان تغییر دهد.

همچنین KMPG ادعا کرد بانک چند ملیتی سرمایه گذاری سوییسی«یو بی اس» هوش مصنوعی عاملی را در بخش های مشاوره سرمایه گذاری، مدیریت ریسک و رصد پیروی از قوانین یکپارچه کرده است. این بانک به نشریه تایمز گفته بود اطلاعات مذکور ناصحیح هستند.