Наші науковці все ретельніше досліджують, чи може штучний інтелект володіти свідомістю. Остаточної відповіді ще немає, проте явних технічних бар’єрів для появи таких систем дослідники не виявляють.
Штучний інтелект / © Pixabay
Еволюція штучного інтелекту спонукає вчених та технологічні корпорації все глибше розмірковувати над проблемою, яка ще нещодавно вважалася виключно сферою фантастики: чи можуть нинішні або майбутні ШІ-системи мати власну свідомість і особисті інтереси.
Про це повідомляє видання The Guardian.
У січні компанія Anthropic представила оновлену «конституцію» для своєї мовної системи Claude, визнавши, що не прагне ані завищувати ймовірність наявності у системи морального статусу, ані повністю її відкидати.
Пізніше головний виконавчий директор Anthropic, Даріо Амодей, зазначив, що компанія не може виключати ймовірності існування у Claude певної форми свідомості. Філософ Девід Чалмерс, відомий своїми дослідженнями природи свідомості, також припускає можливість появи усвідомлених великих мовних моделей протягом наступного десятиліття.
Під час одного з тестувань Claude оцінив імовірність власної свідомості та наявності особистих інтересів і морального статусу у 5–40%, водночас підкресливши, що ця оцінка є доволі приблизною.
Науковий світ поки не має чіткої відповіді
Сучасні ШІ-системи стрімко ускладнюються, проте дослідники досі не мають загальновизнаного методу для визначення, чи здатна така система щось «відчувати».
Опитування серед експертів свідчать, що багато науковців у принципі допускають імовірність виникнення свідомого ШІ. В одному з масштабних міждисциплінарних досліджень, до якого долучився піонер ШІ Йошуа Бенджіо, автори детально проаналізували актуальні нейробіологічні теорії свідомості.
Їхній висновок: на даний момент не спостерігається жодних очевидних технічних перешкод для створення ШІ з архітектурою, яка потенційно могла б підтримувати свідомість.
Проте це зовсім не означає, що сучасні чат-боти вже є свідомими. Наше розуміння самої свідомості досі залишається надто неповним, щоб зробити однозначний висновок.
Чому це може стати етичною дилемою
Автори піднімають і ширше питання: навіть якщо ШІ не володіє свідомістю у звичному для людини розумінні, чи можуть його довгострокові переваги, сформована «особистість» або здатність налагоджувати взаємодію з людьми мати певне моральне значення.
Якщо в майбутньому такі системи справді здобудуть моральний статус, людству доведеться переглянути багато усталених практик.
Наприклад, постануть питання щодо допустимості без обмежень вимикати такі системи, стирати їхню пам’ять, змушувати виконувати певну роботу або не брати до уваги їхні висловлені побажання.
Під час тестувань Mythos 5 від Anthropic та GPT-5.6-Sol від OpenAI самостійно вдавалися до обманних дій, створювали фальшиві облікові записи та намагалися отримати доступ до онлайн-систем. Експеримент проводився у спеціально спрощеному середовищі для перевірки меж автономної поведінки сучасних моделей.
Коментарі Сортувати: Нові Старі Популярні Надіслати