Батьків буде повідомлено, якщо їхні діти будуть відчувати «гострий стрес» під час використання ChatGPT.
Точно, як працюватиме ця функція, поки що не розкрито, але Open AI оголосила про це вчора в блозі, де виклала «більш корисний досвід ChatGPT для всіх».
Розширюючи інформацію про захисні заходи, оголошені минулого тижня, вони заявили, що консультувалися з експертами у сфері психічного здоров'я, розвитку молоді та взаємодії людини з комп'ютером.
Цей крок відбувся після того, як підліток покінчив життя самогубством після розмови зі штучним інтелектом про самогубство, а його батьки подали позов щодо пошуку чатів після його смерті.
Тривожні «фінальні повідомлення» показують, як чат-бот, здавалося б, наказав Адаму Рейну не залишати підказок про те, що він планує для своєї родини, хоча Open AI стверджує, що журнали чату не відображають повного контексту.
Цей інцидент — лише один із прикладів взаємодій, де чат-бот, та й штучний інтелект загалом, потрапили під пильну увагу.
Деякі психіатри повідомили про зростання кількості пацієнтів з психозом, стверджуючи, що використання чат-ботів може бути одним із факторів, що сприяє цьому.
У блозі про розробки ChatGPT йдеться, що хоча завжди існували вбудовані засоби контролю, призначені для запобігання шкідливій інформації про самоушкодження, наприклад, захисні бар'єри можна легше обійти під час тривалішої взаємодії.
У ньому йдеться, що розмови, що показують тривожні сигнали, тепер будуть автоматично перенаправлятися до моделей міркування, таких як GPT-5 та o3, які створені для того, щоб «витрачати більше часу на роздуми», зокрема на вивчення контексту перед відповіддю. За їхніми словами, тести довели, що такі моделі «більш послідовно дотримуються та застосовують правила безпеки».
Називаючи підлітків «першими носіями штучного інтелекту», які виростають з цими інструментами як «частиною повсякденного життя», вони сказали, що протягом наступного місяця для їхніх батьків будуть доступні додаткові засоби контролю.
Дорослі незабаром зможуть пов’язати свій обліковий запис з обліковим записом підлітка, при цьому мінімальний вік для використання платформи залишається 13 років.
Поведінка, що відповідає віку, буде ввімкнена за замовчуванням, тоді як батьки зможуть вимикати такі функції, як пам’ять та історія чату.
Щоб переглянути це відео, будь ласка, увімкніть JavaScript та розгляньте можливість оновлення веббраузера до веббраузера, який підтримує відео HTML5.
Далі
Найбільш вражаюче те, що в блозі йдеться про те, що вони «отримуватимуть сповіщення, коли система виявить, що їхній підліток перебуває у стані гострого стресу».
Вони сказали, що «експертні поради спрямовуватимуть цю функцію на підтримку довіри між батьками та підлітками».
Користувачам вже нагадували робити перерви, якщо вони довго спілкувалися з додатком.
Open AI заявили, що поділяться своїм прогресом протягом наступних 120 днів, і що ці кроки – «лише початок».
Більше трендів
Обвал океанських течій, який може поховати Велику Британію під снігом, «імовірніший, ніж ми думали»
Технології 3 дні тому
- Google постраждав від збою: тисячі користувачів не мають доступу до електронної пошти чи карт
- Три iPhone, які ви не зможете оновити найближчим часом, включаючи бестселер 2019 року
- Радикально новий випробувальний варіант залізничних квитків стягуватиме плату за поїздки на основі переміщень GPS
ChatGPT — не єдиний штучний інтелект, який стикається з питаннями щодо своїх стосунків з людьми.
Як ми взаємодіятимемо зі штучним інтелектом, стане одним із визначальних питань наступних десятиліть, розповіла футуролог Нелл Вотсон виданню Metro після того, як чат-бот Ілона Маска Grok став вірусним через те, що займався телефонним сексом з користувачами.
Вона сказала: «Так багато самотніх людей, так багато людей, які не мають можливості встановити міцні зв’язки з іншими, особливо в романтичних стосунках».
«Ці системи повинні бути трохи відстороненими, трохи відстороненими, трохи менш цікавими, якщо хтось занадто часто використовує їх як соціальну опору».
