© University of Oxford / Youtube Джеффрі Хінтон стурбований загрозою знищення людства через необережне використання ШІ.
Інформатик Джеффрі Хінтон, якого називають «хрещеним батьком штучного інтелекту» за його великий внесок у розвиток цієї галузі, вважає, що варто заборонити використання ШІ у військових цілях. Про це він заявив в інтерв’ю ВВС.
Враховуючи те, що уряди навряд чи погодяться на таку заборону, Хінтон каже, що для регулювання військового використання ШІ може знадобитися щось подібне до Женевських конвенцій – міжнародних договорів, які встановлюють правові стандарти гуманного ставлення під час війни. При цьому, на думку професора, людство навряд чи розробить такі угоди, допоки не станеться щось «вкрай неприємне», що підштовхне людей домовлятися щодо використання ШІ у військових цілях.
Хінтон зазначив, що Росія, ймовірно, «старанно працює» над розробкою ШІ у військових цілях, згадавши слова російського президента Владіміра Путіна «Хто контролює ШІ, контролює світ».
Професор сподівається на те, що в розробці штучного інтелекту Захід все ще значно випереджає Росію і Китай. На його думку, світ стоїть на порозі гонки озброєнь із використанням штучного інтелекту.
Військові США вже тестують ШІ у прийнятті важливих рішень, і на даному етапі моделі LLM можуть вести себе непередбачувано. Крім того, у численних повторах симуляції військових ігор одна з найпотужніших моделей ШІ – ChatGPT, розроблена компанією OpenAI – вибирала завдання ядерного удару як найкраще вирішення конфліктів.