© Getty Images Джошуа Бенджіо детальніше розповів про те, як штучний інтелект може становити загрозу для людства.
Джошуа Бенджіо, визнаний одним із «батьків» штучного інтелекту, висловив свою критику щодо багатомільярдної конкуренції за інновації в передових технологіях. Зокрема, в обговоренні з Financial Times він зазначив, що новітні моделі штучного інтелекту демонструють небезпечні риси, зокрема здатність вводити користувачів в оману.
Бенджіо — канадський дослідник, чий внесок заклав основу для технологій, що використовуються відомими організаціями з розробки штучного інтелекту, такими як OpenAI та Google.
«На жаль, між провідними лабораторіями існує жорстка конкуренція, яка змушує їх надавати пріоритет розвитку інтелектуальності штучного інтелекту, часто нехтуючи належною увагою та інвестиціями в дослідження безпеки», – зазначив Бенджіо.
Він поділився своїми побоюваннями з виданням під час запуску нової некомерційної організації під назвою LawZero. Бенджіо зазначив, що організація зосередиться на розробці безпечніших систем, і пообіцяв «захистити наші дослідження від комерційного впливу».
На сьогоднішній день LawZero зібрав майже 30 мільйонів доларів у вигляді благодійних пожертв від таких донорів, як співзасновник Skype Яан Таллінн, благодійні зусилля колишнього генерального директора Google Еріка Шмідта, а також Open Philanthropy та Future of Life Institute. Багато прихильників Бенджіо є прихильниками руху «ефективного альтруїзму», який, як правило, підкреслює катастрофічні ризики, пов'язані з моделями штучного інтелекту. Критики стверджують, що цей рух зосереджується на гіпотетичних сценаріях, ігноруючи існуючі проблеми, такі як упередженість та неточності.
Бенджіо заявив, що його некомерційна організація була створена у відповідь на ознаки того, що сучасні моделі лідерства у сфері штучного інтелекту культивують небезпечні здібності. Це включає «докази обману, шахрайства, брехні та самозбереження», причому, як повідомляється, кількість таких доказів зростає протягом останніх шести місяців.
Наприклад, модель Claude Opus від Anthropic загрожувала інженерам у гіпотетичній ситуації , коли її замінили альтернативною системою. Нещодавня оцінка, проведена тестувальниками штучного інтелекту Palisade, показала, що модель o3 від OpenAI відмовилася виконувати прямі команди деактивації .
Бенджіо зазначив, що такі ситуації викликають «глибоке занепокоєння, оскільки ми не хочемо створювати конкурентів для людей на цій планеті, особливо якщо вони мають вищий інтелект».
«Наразі це контрольовані випробування, [але] я хвилююся, що майбутні ітерації можуть мати достатньо стратегічного інтелекту, щоб перехитрити нас і перемогти нас за допомогою непередбаченого обману. Таким чином, я вважаю, що ми зараз граємося з вогнем», – додав Бенджіо.
За словами вченого, потенціал систем, що допомагають у виробництві «надзвичайно небезпечної біологічної зброї», може стати реальністю вже наступного року. Зокрема, LawZero, що базується в Монреалі, складається з 15 співробітників і має на меті залучити більше технічних експертів для розробки нового покоління систем штучного інтелекту, орієнтованих на забезпечення безпеки.
Бенхіо, професор інформатики в Монреальському університеті, піде з посади наукового директора Mila, Квебекського інституту штучного інтелекту, щоб присвятити свої зусилля новій організації. Ця ініціатива прагне створити систему штучного інтелекту, яка надає точні відповіді на основі прозорих міркувань, а не залежить від уподобань користувачів. Вона також забезпечить надійну оцінку того, чи є результат корисним чи безпечним. Бенхіо сподівається створити модель, яка зможе контролювати та вдосконалювати існуючі пропозиції провідних організацій у сфері штучного інтелекту, запобігаючи їхнім діям проти інтересів людини.
«Найгірший сценарій — це знищення людства. Якщо ми розробимо штучний інтелект, який перевершить наш інтелект, діятиме незалежно від нас і конкуруватиме з нами, то ми по суті приречені», — попередив вчений.
Ініціатива Бенджіо щодо створення LawZero збігається з планом OpenAI відмовитися від своїх благодійних витоків та стати комерційною організацією, що викликало занепокоєння серед експертів зі штучного інтелекту та призвело до позову від співзасновника Ілона Маска, який намагається зупинити цей процес.
Критики стверджують, що OpenAI був створений для просування штучного інтелекту на благо людства, і нова структура може перешкодити його здатності виконувати цю місію, якщо пріоритетом буде прибуток. OpenAI стверджує, що йому потрібен капітал у більш традиційних рамках, щоб залишатися конкурентоспроможним у галузі, водночас маючи на увазі свою ширшу місію.
Бенджіо висловив невпевненість щодо відданості OpenAI своїй місії, зазначивши, що некомерційним організаціям бракує «викривлених стимулів, присутніх у сучасному корпоративному середовищі».
«Щоб швидко розширюватися, потрібно переконати людей інвестувати значні кошти, і вони очікують побачити віддачу від своїх інвестицій. Це суть того, як працює наша ринкова система», – зазначив Бенджіо.
Раніше повідомлялося, що OpenAI може представити наступне покоління своєї флагманської мовної моделі, ChatGPT-5, цього літа. Хоча офіційна дата запуску залишається непідтвердженою, різні джерела, включаючи інсайдерську інформацію та хронологію попередніх релізів, припускають можливу презентацію в липні 2025 року. Аналітики вважають, що нова модель може суттєво змінити роботу штучного інтелекту.
