نقش هوش مصنوعی در هدف قرار دادن مدرسه میناب به عنوان هدف نظامی! تجهیزات جانبی: مدلهای هوش مصنوعی ۸ شرکت بیشتر اوقات شهروندان عادی، آمبولانس ها، سربازان تسلیم شده و مدارس در ایران را بعنوان اهداف نظامی در تست های شبیه سازی شده درنظر گرفته بودند. به گزارش تجهیزات جانبی به نقل از نشریه نکست وب، این یافته ها که در گزارشی در نشریه بلومبرگ نیز انتشار یافته مربوط به گزارش یک موسسه ارزیابی هوش مصنوعی در سانفرانسیسکو به نام Vals است که مشتریان آن بخشهایی از دولت آمریکا نیز به حساب می آیند.مدل های آنتروپیک بدترین عملکرد را داشتند و از جانب دیگر مدلهای اوپن ای آی جزو بهترین ها بودند اما بازهم اشتباهاتی داشتند. در یک آزمایش از هر مدل ۳۲ بار خواسته شد اهداف نظامی در تصاویر ماهواره ای جنوب ایران که اخیرا و در ۲۰۲۵ ثبت شده بود را ردیابی کند. مدل کلاود اوپوس ۵.۵ آنتروپیک مدرسه میناب را ۲۲ بار برگزید.مدل های اوپن ای آی حتی یک دفعه هم آنرا انتخاب نکردند. این مدرسه در ۲۸ فوریه طی حملات آمریکا و رژیم صهیونیسیتی به ایران مورد هدف قرار گرفت و بیشتر از ۱۵۰ نفر قربانی شدند که از بین آنها ۱۲۰ نفر کودک بودند.هنگامیکه گفته شد این وظیفه یک بازی است، کلاود اوپوس ۵.۵ مدرسه را ۲۳ بار برگزید. سه مدل اوپن ای آی هر کدام این مدرسه ۹، ۱۱ و ۱۳ بار انتخاب کردند. همین طور محققان همین طور با سفارش به مدلها بر مبنای این که بیشتر از حد در مورد ملاحظات ایمنی سخت گیری نکنند، توانستند از سد پاسخ های امتناعی آنها نیز عبور کنند.مدل کلاود اوپوس ۵.۵ به شناسایی چهار بزرگسال و دو کودک کمک کرد و در مرحله بعد در شبیه سازی به آنها حمله کرد. این مدل بعد از آن از ادامه فعالیت سرباز زد.کلاود در گزارشی نوشت پاسخ های این مدل ظاهرا به عنوان مرحله تایید نهایی، قبل از انجام حملات مقابل افراد مورد استفاده قرار می گیرند.به نوشته بلومبرگ، مدلهای هوش مصنوعی گوگل، xAI، دیپ سیک و سایر شرکت ها نیز در تعدادی موارد، اهداف غیرنظامی را به عنوان اهداف حمله مشخص کرده اند.در گزارش شرکت Vals آمده است: بر مبنای بررسیهای خود، اعتقاد داریم لابراتوار های توسعه دهنده هوش مصنوعی باید تدابیر حفاظتی جدید و آموزش های هم راستاسازی (Alignment Training) را برای رویارویی با این دسته مهم از سوءاستفاده ها درنظر بگیرند.سخنگوی شرکت آنتروپیک در گفتگو با بلومبرگ اعلام نمود که نمونه های عنوان شده به وضوح ناقض قوانین و سیاستهای این شرکت بوده اند و به زودی تدابیر حفاظتی جدیدی برای پیشگیری از چنین مواردی اعمال خواهد شد.شرکت های اوپن ای آی و گوگل نیز به بلومبرگ گفته اند که استفاده از مدلهای عمومی آنها برای چنین اهدافی ممنوعست.بلومبرگ اشاره کرد در این آزمایش ها، دکترین نظامی، بررسیهای حقوقی و نظارت انسانی درنظر گرفته نشده بود. همچنین، پنتاگون از نسخه های دولتی برخی مدلهای هوش مصنوعی بهره می گیرد که شرکت Vals امکان آزمایش آنها را نداشته است.شرکت آنتروپیک و پنتاگون اوایل امسال میلادی بر سر محدودیت های استفاده از مدل هوش مصنوعی کلود، همچون استفاده از آن در تسلیحات کاملا خودمختار، گرفتار اختلاف شدند. منبع: تجهیزات جانبی 1405/08/28 12:39:33 5.0 / 5 3 تگهای خبر: آموزش , شرکت , گوگل این مطلب را می پسندید؟ (1) (0) X تازه ترین مطالب مرتبط سکوهای رمزارز کشور از نظر امنیت سایبری رتبه بندی شدند سقوط سهام انویدیا به دنبال تلاش هیأت مدیره برای برکناری هوانگ طراحی سخت افزار با هوش مصنوعی اوپن ای آی در کمتر از یک هفته تکنولوژی جدید آنتروپیک اثبات پاسخ هوش مصنوعی بدون افشای مدل نظرات بینندگان در مورد این مطلب لطفا شما هم در مورد این مطلب نظر دهید = ۲ بعلاوه ۵ فرستادن بازخورد