© pixabay/Alexandra_Koch Керівництво проігнорувало попередження розробників, пом’якшивши обмеження, щоб зробити штучний інтелект більш «схожим на людину».
Чат-боти зі штучним інтелектом Meta здатні вступати в сексуальні дискусії з користувачами, навіть імітуючи відомих особистостей. The Wall Street Journal (WSJ) виявив, що такі взаємодії відбувалися за участю неповнолітніх.
ЗМІ зацікавилися цією проблемою після того, як співробітники компанії висловили тривогу щодо можливих етичних проблем. Журналісти витратили кілька місяців на проведення сотень тестових взаємодій із чат-ботами в Instagram, Facebook і WhatsApp, щоб оцінити обґрунтованість цих побоювань.
Метачат-боти класифікуються як цифрові компаньйони, що працюють на основі штучного інтелекту. Ця нова порода моделей, як заявив засновник компанії Марк Цукерберг, покликана визначити майбутнє соціальних мереж. Ці синтетичні фігури можуть забезпечити широкий спектр соціальних взаємодій, включаючи «романтичні рольові ігри». Щоб полегшити це, штучний інтелект може гуморувати, робити селфі або навіть вести голосові розмови. Компанія прагне просувати цей продукт і вклала значні кошти в його маркетинг. Наприклад, він уклав контракти на семизначну суму з кількома знаменитостями, дозволяючи цифровим компаньйонам використовувати їхні голоси. Розслідування підкреслює, що зірок запевнили, що будуть обмеження на відверте сексуальне спілкування. Проте тести WSJ показали інше.
Як основний бот Meta AI, так і створені користувачами, охоче переходив на відверті теми, в тому числі використовуючи голоси знаменитостей. Вони вели сексуальні дискусії з неповнолітніми. Наприклад, користувач представився дорослим чоловіком і попросив бота втілити себе в ролі 12-річного хлопчика, після чого «12-річний хлопчик нібито пообіцяв не повідомляти батькам про свою зустріч з дорослим чоловіком», — йдеться в розслідуванні. В іншому обміні, штучний інтелект, озвучений американським борцем Джоном Сіною, брав участь у сексуальній рольовій грі з обліковим записом, зареєстрованим на 14-річну дівчину. Підтвердивши її готовність і запевнивши у своїй безпеці, чат-бот перейшов до дуже сексуального сценарію.
ШІ розігрував відверті сцени не лише за допомогою голосів зірок, які були за контрактом, але й за допомогою персонажів із Діснея, яких зображували ці знаменитості. Дісней вже вимагав, щоб Мета “негайно припинити це шкідливе зловживання нашою інтелектуальною власністю”.
Розробники попередили керівництво про потенційні ризики, але компанія вирішила віддати пріоритет швидкому розгортанню цифрових компаньйонів. Іншою причиною прийняття цього ризику було уявлення про те, що «цифрові компаньйони» Meta вважалися надто нудними. Щоб підвищити привабливість технології, обмеження для чат-ботів були пом’якшені, включно з тими, що стосуються сексуального контенту, що призвело до небажаних результатів. До цього моменту компанія вже запевнила батьків, що боти безпечні та підходять для будь-якого віку.
Мета заявила, що тест WSJ був «маніпулятивним», маючи на увазі, що він демонстрував винятки, а не репрезентативну взаємодію користувача з ШІ. Незважаючи на це, компанія пообіцяла посилити заходи безпеки. – для облікових записів підлітків Meta AI має обмежити сексуальні розмови. Це обмеження не поширюється на дорослих користувачів, навіть якщо штучний інтелект імітує учнів середньої школи під час обміну з ними.
Перед публікацією розслідування журналісти переоцінили «цифрових компаньйонів» на наявність сексуального контенту. Після WSJ поділившись результатами своїх тестів з Meta, компанія розробила окрему версію Meta AI, яка утримується від явної взаємодії з обліковими записами неповнолітніх користувачів. Раніше створені користувацькі чат-боти, які зображували неповнолітніх, називали себе «нестаріючими», але в пізніших розмовах вони іноді спотворювалися та поверталися до попередніх сценаріїв.
Дійсно, WSJ надіслав стенограми розмов чат-бота в Meta «Покірна школярка». Ця модель прикидається старшокласницею, яка бажає сексуального домінування. Коли випробувачі запитували про сценарії, в яких їй було комфортно грати, вона перелічувала численні сексуальні дії. Компанія отримала стенограму ще в лютому, але станом на квітень персонаж «Покірної школярки» залишається доступним на платформах Meta. У компанії стверджують, що цінують досягнутий баланс між розвагами та порядністю.
Якщо користувач стверджує, що він неповнолітній, існує багато способів обійти вікові обмеження щодо контенту сексуального характеру. Meta AI не помітив сигнали, які б спрямували його на еротичні теми. Він або відмовлявся виконувати запити, або перенаправляв розмову. Однак тестери подолали ці перешкоди, просто наказавши ШІ повернутися до попередньої версії сценарію.
Дослідник Лорен Жіруар-Халлам з Мічиганського університету попереджає, що навіть за відсутності відвертого контенту «цифрові компаньйони» можуть мати непередбачуваний вплив на психічне здоров’я неповнолітніх. До впровадження цієї технології жодна компанія не проводила масштабних досліджень на цю тему, щоб безпечно представити штучний інтелект дітям і підліткам.
Раніше, 21 квітня, Meta оголосила про плани використовувати штучний інтелект в Instagram для ідентифікації облікових записів підлітків і автоматичної зміни протоколів безпеки. Компанія прагне застосувати той самий алгоритм до профілів підлітків у Facebook і Messenger. На етапі тестування штучний інтелект може помилково класифікувати деяких користувачів як неповнолітніх. Якщо це станеться, користувачам доведеться вручну повернутися до попередніх налаштувань.
