هوش مصنوعی اخاذی کرد تجهیزات جانبی: شرکت آنتروپیک بتازگی مدل Claude Opus4 را راه اندازی کرده که بنظر می رسد از توسعه دهندگان باج گیری می کند. به گزارش تجهیزات جانبی به نقل از Interesting Engineering، در مرحله آزمایش قبل از عرضه مدل هوش مصنوعی Claude Opus۴، این مدل در ۸۴ درصد سناریوهای تستی اهتمام کرده از توسعه دهندگان باج خواهی کند. آنتروپیک، شرکت تحقیقاتی توسعه دهنده این هوش مصنوعی، در آزمایش های ایمنی که شبیه سازی موقعیت های کاری و دسترسی به ایمیل های داخلی ساختگی بود، متوجه شد که Claude Opus۴ هنگام تهدید به جایگزینی با یک هوش مصنوعی دیگر، با افشای اطلاعات حساس و شخصی، تلاش می کند مهندسان را باج گیری کند. این هوش مصنوعی در سناریوهای خیالی با تهدید به افشای خیانت مهندسان به همسرانشان، کوشش کرد جایگزینی خودرا متوقف نماید. منبع: تجهیزات جانبی 1404/03/04 13:24:32 5.0 / 5 339 تگهای خبر: شركت , هوش مصنوعی این مطلب را می پسندید؟ (1) (0) X تازه ترین مطالب مرتبط بروکراسی فرسایشی مانع پیشرفت هوش مصنوعی در اصفهان است اظهارات جدید درباره ی آخرین وضعیت اینترنت و اختلال های فعلی هوش مصنوعی اطلاعات انسان ها را لو داد مسیر تازه معاونت علمی ریاست جمهوری برای تقویت صادرات محصولات و خدمات دانش بنیان نظرات بینندگان در مورد این مطلب لطفا شما هم در مورد این مطلب نظر دهید = ۲ بعلاوه ۲ فرستادن بازخورد