قابلیت جدید چتجیپیتی معرفی شد
شرکت «اوپنایآی» از قابلیتی جدید در چتجیپیتی رونمایی کرده که میتواند در شرایط حساس، بهجای کاربر با یک فرد مورد اعتماد ارتباط برقرار کند.
به نقل از تک کرانچ، شرکت «اوپنایآی» از قابلیت جدیدی به نام «مخاطب مورد اعتماد» رونمایی کرده؛ قابلیتی که قرار است در مواقعی که کاربر در گفتوگوهایش نشانههایی از خودآزاری یا افکار خودکشی نشان میدهد، به یک فرد نزدیک و مورد اعتماد هشدار بدهد. کاربران بزرگسال حالا میتوانند در حساب کاربری خود فردی مثل دوست، همسر یا یکی از اعضای خانواده را بهعنوان مخاطب مورد اعتماد ثبت کنند. اگر سیستم تشخیص دهد گفتوگو به سمت آسیب به خود پیش میرود، ابتدا از کاربر میخواهد با آن فرد تماس بگیرد و در صورت تشخیص خطر جدی، یک هشدار خودکار از طریق پیامک، ایمیل یا اعلان برنامه برای آن شخص ارسال میشود تا وضعیت کاربر را پیگیری کند. «اوپنایآی» میگوید این هشدارها جزئیات گفتوگو را فاش نمیکنند و فقط برای حفظ امنیت کاربر طراحی شدهاند.این قابلیت پس از موجی از پروندههای حقوقی علیه «اوپنایآی» معرفی شده است؛ پروندههایی که در آن خانواده برخی کاربران ادعا کردهاند چتبات این شرکت فرزندان یا نزدیکانشان را به خودکشی تشویق کرده یا حتی در برنامهریزی آن کمک کرده است. «اوپنایآی» میگوید اکنون از ترکیبی از سیستمهای خودکار و بررسی انسانی استفاده میکند؛ به این صورت که اگر نشانههایی از افکار خودکشی در گفتوگو دیده شود، هشدار به تیم ایمنی انسانی ارسال میشود و این تیم تلاش میکند ظرف کمتر از یک ساعت پرونده را بررسی کند. اگر خطر جدی تشخیص داده شود، سیستم به مخاطب مورد اعتماد کاربر هشدار میدهد تا با او تماس بگیرد و وضعیتش را بررسی کند.
این شرکت تأکید کرده قابلیت جدید اجباری نیست و کاربران میتوانند آن را فعال یا غیرفعال کنند. همچنین مثل گذشته، کاربران همچنان میتوانند چند حساب مختلف داشته باشند؛ موضوعی که محدودیتهایی برای اجرای کامل این سیاست ایجاد میکند. «اوپنایآی» میگوید این ویژگی بخشی از تلاش گستردهتر شرکت برای ساخت سیستمهای هوش مصنوعی است که بتوانند در لحظات بحرانی و دشوار به کاربران کمک کنند و این شرکت در حال همکاری با پزشکان، پژوهشگران و سیاستگذاران برای بهبود واکنش هوش مصنوعی در مواجهه با افراد آسیبدیده یا مضطرب است.
