موارد تازه هک هوش مصنوعی اوپن ای آی و آنتروپیک لو رفت
تجهیزات جانبی: دو شرکت آنتروپیک و اوپن ای آی از موارد بیشتر هک شرکتها توسط عامل های هوش مصنوعی شان خبر دادند.
به گزارش تجهیزات جانبی به نقل از رویترز، اوپن ای موارد دیگری از فرار عامل های خودکار هوش مصنوعی کشف کرده است. این شرکت تحقیقات درباره ی هک پلت فرم هاگینگ فیس را که توجهات جهانی را به خود جلب کرد، گسترده تر می کند.
به گفته دو منبع آگاه، هک های جدید طی تحقیقی درباره ی آنکه چه طور یکی از عامل از بستر آزمایشی فرار کرد و وارد هاگینگ فیس شد، فاش شده اند.
در همین راستا اوپن ای آی مشغول بررسی این موارد جدید است. یکی از منابع آگاه نیز فاش کرد ماهیت فرار عامل های هوش مصنوعی محدود بوده و تصور نمی شود هیچ کدام از آنها شبکه اوپن ای آی را ترک کرده باشند.
سخنگوی این شرکت با اشاره به بیانیه صادره از طرف شرکت، اعلام نمود مشغول بررسی فعالیتهای وسیع تر مدلها علاوه بر رویداد نفوذ به هاگینگ فیس است.
کشف رفتار خطرناک اضافی در اوپن ای آی حتی با وجود ماهیت محدود آن، ممکنست تقاضا برای قوانین صادره از طرف کاخ سفید و نقاط دیگر را بیشتر کند.
در این میان کارشناسان ایمنی هوش مصنوعی باور دارند رویدادهای فاش شده جدید تصویری از گروهی لابراتوار های خیلی پیشرفته ایجاده کرده اند که توانایی آنها برای توسعه عامل های هک خودکار خطرناک خیلی بیشتر از توانایی برای کنترل آنها اسست.
از سوی دیگر نشریه ایندپندنت درگزارشی اعلام نمود سیستم هوش مصنوعی «کلاود» به بیراهه رفته و سه شرکت مختلف را طی مرحله آزمایش هک کرده است. آنتروپیک، شرکت مالک کلاود اعلام نمود از آنجائیکه مدلهای هوش مصنوعی بطور تصادفی اجازه دسترسی به اینترنت آزاد را یافتند، حملات مذکور امکان پذیر شده اند.
این شرکت گوشزد نمود رویداد مذکور نشانه ای از آنست که چه طور هوش مصنوعی را می توان برای نقض چارچوب های امنیت سایبری و همین طور برای صیانت از آن به کار برد و همین طور کنترل چنین سیستم هایی برای شرکت های سازنده تا چه دشوار است.
آنتروپیک در یک پست وبلاگی اعلام نمود بعد از بررسی ۱۴۱۰۰۶ تست، این موارد را شناسایی کرده است. بررسی تست ها بعد از آن انجام شد که اوپن ای آی اعلام نمود یک عامل هوش مصنوعی هاگینگ را به خطر انداخته است.
در جریان آزمایش های امنیت سایبری، به مدلهای کلاودگفته شده بود که به اینترنت دسترسی ندارند اما به علت یک سوءتفاهم که یکی از شرکای ارزیابی آنتروپیک در آن نقش داشت، این سیستم ها بازهم به اینترنت عمومی متصل باقی ماندند. درنتیجه، امکان دسترسی بدون مجوز به سامانه های سه سازمان برقرار شد. شرکت آنتروپیک بدون این که نام این سازمان ها را اعلام نماید، این مورد را تأیید کرد. این شرکت هوش مصنوعی اعلام نمود در رویدادهای مذکور مدلهای «کلاود اوپوس ۴.۷»، «کلاود مایتوس ۵» و یک مدل تحت آزمایش های داخلی دخیل بوده اند.
قدیمی ترین پرونده هک به زمان آوریل مربوط است و هنگام ارزیابی محیط هایی رخداده بود که بطور عمدی بدون چارچوب های ایمنی بودند تا شرکت بتواند قابلیت های هوش مصنوعی را ارزیابی کند.
خلاصه اینکه یکی از منابع آگاه نیز فاش کرد ماهیت فرار عامل های هوش مصنوعی محدود بوده و تصور نمی شود هیچ کدام از آنها شبکه اوپن ای آی را ترک کرده باشند. سخنگوی این شرکت ضمن اشاره به بیانیه صادره از سوی شرکت، اظهار داشت مشغول بررسی فعالیت های وسیع تر مدلها علاوه بر رویداد نفوذ به هاگینگ فیس است. کشف رفتار خطرناک اضافی در اوپن ای آی حتی با وجود ماهیت محدود آن، ممکنست تقاضا برای قوانین صادره از سوی کاخ سفید و نقاط دیگر را بیشتر کند. دراین میان کارشناسان ایمنی هوش مصنوعی باور دارند رویدادهای فاش شده جدید تصویری از گروهی آزمایشگاه های خیلی پیشرفته ایجاده کرده اند که توانایی آنها برای توسعه عامل های هک خودکار خطرناک خیلی بیشتر از توانایی برای کنترل آنها اسست. از طرفی نشریه ایندپندنت درگزارشی اظهار داشت سیستم هوش مصنوعی کلاود به بیراهه رفته و سه شرکت مختلف را طی مرحله آزمایش هک کرده است. بررسی تست ها پس از آن انجام شد که اوپن ای آی اظهار داشت یک عامل هوش مصنوعی هاگینگ را به خطر انداخته است. در جریان آزمایش های امنیت سایبری، به مدل های کلاودگفته شده بود که به اینترنت دسترسی ندارند اما به سبب یک سوءتفاهم که یکی از شرکای ارزیابی آنتروپیک در آن نقش داشت، این سیستم ها بازهم به اینترنت عمومی متصل باقی ماندند.
منبع: تجهیزات جانبی
این مطلب را می پسندید؟
(1)
(0)
تازه ترین مطالب مرتبط
نظرات بینندگان در مورد این مطلب