OpenAI виявила окремі слабкі місця у своїх продуктах: glavcom.ua
OpenAI відтепер аналізуватиме діалоги у ChatGPT та сповіщатиме правоохоронців про потенційно небезпечні наміри
OpenAI заявила про впровадження моніторингу користувацьких діалогів у ChatGPT. Повідомлення, що містять загрози завдати шкоди оточуючим, будуть передаватися на перевірку працівникам, а у критичних ситуаціях – до поліції. Рішення прийняте у зв’язку з учащенням інцидентів, де AI-чатботи спричиняли погіршення психічного стану людей. Інформацію підтвердили у OpenAI, посилається «Главком».
Нове повідомлення у блозі компанії містить зізнання щодо вад систем, здатних впливати на ментальний добробут користувачів. Тепер розмови перевірятимуться на наявність «небезпечного вмісту».
«Виявлення користувачів із намірами заподіяти збитки іншим призводить до перенаправлення їхніх діалогів до експертів… Якщо аналітики підтвердять реальність серйозної фізичної загрози, ми повідомлятимуть правоохоронні органи», – йдеться у заяві.
Одночасно компанія наголосила, що поки що не інформує поліцію про випадки, пов’язані з суїцидальними думками чи самопошкодженням, аби зберегти «особливу конфіденційність спілкування через ChatGPT».
Оновлені правила викликали дискусії, адже, на думку аналітиків, вони створюють протиріччя з принципами конфіденційності компанії. OpenAI перебуває у судовому процесі з The New York Times, де відмовляється відкривати логування чатів, аргументуючи це захистом персональних даних.
Раціше CEO OpenAI Сем Альтман зазначав, що використовувати ChatGPT як «психолога чи юриста» недостатньо безпечно, оскільки компанія може бути зобов’язана оприлюднити такі діалоги за рішенням суду.
В результаті, OpenAI стикається з дилемою: балансувати між запобіганням ризикам «AI-психозу» та дотриманням гарантій приватності. Нова політика свідчить про пріоритет суворого контролю, що частково розходиться із публічними заявами про захист інформації.
На цьому тлі TikTok оголосив про звільнення сотень працівників відділу модерування контенту у Британії, переходячи на автоматизацію з використанням AI. Цей тренд посилюється серед соцмедійних платформ: Meta та X також замінюють людей алгоритмами. Джерело – The Wall Journal, цитує «Главком».
Зменшення штату торкнеться близько 2500 працівників у Британії та країнах Азії. Точна кількість скорочених не розголошується, проте джерела повідомляють про сотні випадків.
