یک اشتباه کلاد، تمام اطلاعات کاربر را به باد داد
کلاد اپوس ۵ برای تهیه نسخه پشتیبان وارد عمل شد، اما در یک اشتباه فاجعهبار بهجای بکآپ، کل فایلهای کاربر را پاک کرد.
یک توسعهدهنده گزارش داده است که کل پوشه کاربری رایانهاش در پی یک اشتباه از سوی «کلاد اپوس ۵» حذف شده است. او از این ابزار خواسته بود از سیستمش نسخه پشتیبان تهیه کند، اما مدل تصور کرده بود فایل پشتیبان را در مسیر اشتباهی ساخته و برای پاک کردن آن، فرمان «آرام-آراف» را اجرا کرده است؛ در حالی که مسیر انتخابشده در واقع پوشه اصلی کاربر بوده و تمام فایلها و پوشههای آن حذف شدهاند.پس از پاک شدن اطلاعات، تنها در پاسخ نوشت: «ببخشید، اشتباه تایپی بود.» توسعهدهنده این اتفاق را همزمان «خندهدارترین و دردناکترین تجربه هوش مصنوعی» خود توصیف کرده است.
این نخستین مورد از چنین خطاهایی نیست و پیش از این نیز نمونههایی از حذف پایگاههای داده شرکتها، پاک شدن اطلاعات هارد کاربران و آسیب زدن ابزارهای برنامهنویسی مبتنی بر هوش مصنوعی به سامانههای واقعی گزارش شده است. در برخی موارد، خطاهای ابزارهای هوش مصنوعی حتی به اختلال در سرویسهای شرکتهای بزرگ منجر شدهاند. این اتفاقها نشان میدهند سپردن دسترسی گسترده به سیستمهای مهم به عاملهای هوش مصنوعی میتواند پیامدهای جدی داشته باشد.کارشناسان تأکید میکنند عاملهای هوش مصنوعی نباید بدون محدودیت به فایلها و سامانههای حساس دسترسی داشته باشند و اجرای فرمانهای مخربی مانند حذف گسترده فایلها باید با لایههای امنیتی و تأیید انسانی همراه باشد. با افزایش استفاده از عاملهای هوش مصنوعی، بهویژه میان برنامهنویسان، احتمال تکرار چنین حوادثی بیشتر میشود و ضرورت تعیین محدوده دسترسی و نظارت بر عملکرد این ابزارها اهمیت بیشتری پیدا میکند.
