هوش مصنوعی سرکش در متا هم جنجال به پا کرد

شرکت متا اعلام کرده یکی از مدل‌های هوش مصنوعی این شرکت در جریان یک آزمایش امنیت سایبری، به دلیل خطای پیکربندی در محیط ارزیابی، توانسته به اینترنت دسترسی پیدا کند و با سوءاستفاده از یک آسیب‌پذیری در سرویس یک شرکت ثالث، به سامانه‌های آن نفوذ کند. این رخداد نگرانی‌ها درباره توانایی مدل‌های پیشرفته هوش مصنوعی برای انجام حملات سایبری را افزایش داده است. به گزارش رسانه‌ها، مدل مورد استفاده «میوز اسپارک ۱.۱» بوده که متا آن را یکی از قدرتمندترین مدل‌های خود برای برنامه‌نویسی و انجام وظایف مستقل معرفی کرده است.متا اعلام کرد این خطا ناشی از پیکربندی نادرست شرکت مستقل ایرگولار، مسئول ارزیابی امنیتی این آزمایش، بوده و شباهت زیادی به رخدادهای اخیر در آنتروپیک و اپن‌ای‌آی دارد. در مورد آنتروپیک نیز یک خطای پیکربندی باعث دسترسی مدل‌ها به اینترنت شده بود و در اپن‌ای‌آی نیز یکی از عامل‌های هوش مصنوعی در جریان آزمایش امنیتی، با سوءاستفاده از یک آسیب‌پذیری ناشناخته به اینترنت دسترسی پیدا کرده بود. شرکت ایرگولار تأکید کرده این حادثه به فرار مدل از محیط ایزوله یا یک حمله سایبری پیچیده مربوط نبوده و اکنون نیز مشکل برطرف شده است.

این رخدادها نگرانی قانون‌گذاران آمریکایی را درباره خطرات امنیتی مدل‌های پیشرفته هوش مصنوعی تشدید کرده است. برخی کارشناسان هشدار داده‌اند این فناوری‌ها در آینده می‌توانند برای اجرای یا تسهیل حملات سایبری مورد استفاده قرار گیرند و به همین دلیل، گروهی از چهره‌های برجسته حوزه هوش مصنوعی خواستار کند شدن روند توسعه این فناوری تا زمان ایجاد سازوکارهای ایمنی قوی‌تر شده‌اند.همزمان، دولت دونالد ترامپ در حال افزایش نظارت بر ایمنی مدل‌های هوش مصنوعی است. کاخ سفید در روزهای اخیر از شرکت‌های متا، آنتروپیک، اپن‌ای‌آی و گوگل دعوت کرده تا درباره چارچوب جدید آزمایش‌های داوطلبانه امنیت سایبری برای مدل‌های پیشرفته گفت‌وگو کنند. با این حال، طبق گزارش‌ها، مدل‌های متن‌باز مانند لاما و نیموترون از برنامه فعلی آزمایش‌های داوطلبانه دولت آمریکا مستثنی خواهند بود.