Вчені, хакери та спецслужби знайшли способи використовувати штучний інтелект у небезпечних цілях, зокрема для дослідження біологічної зброї
Компанія Anthropic задокументувала численні випадки зловживання своїми передовими моделями штучного інтелекту Claude (Sonnet, Opus, Haiku). Попри наявні обмеження та фільтри безпеки, зловмисники з Росії, Китаю, Ірану, Ємену та інших країн використовували VPN, викрадені облікові записи та посередників для доступу до цих технологій.
Системи штучного інтелекту стали здобиччю та інструментом для хакерів, дозволивши їм автоматизувати кібератаки, створювати інструменти для цифрового стеження та розробляти потенційні зразки озброєння, які раніше були поза їхніми технічними можливостями.
У Anthropic наголосили, що найзахищеніша модель Claude Mythos не була скомпрометована. Усі виявлені випадки незаконного використання оперативно блокувалися, а відповідні урядові органи були повідомлені.
Згідно з даними компанії, бойовики з Північного Ємену, підтримувані Іраном, намагалися за допомогою Claude розробити керовані, балістичні та гіперзвукові плануючі ракети. Один російський розробник досліджував створення автономних дронів-камікадзе.
У Малі за допомогою ШІ створювали платформу для тотального перехоплення мобільного зв’язку. Спецслужби Китаю та Ірану використовували ШІ для аналізу соцмереж з метою виявлення дисидентів.
Крім того, було зафіксовано щонайменше п’ять випадків, коли іноземні науковці обходили захисні механізми для дослідження небезпечних патогенів, зокрема високопатогенного пташиного грипу та інших небезпечних вірусів, у рамках потенційних військових біологічних програм.
Звіт також містить інформацію про 9 операцій з дезінформації та впливу на вибори у різних регіонах світу. Хоча більшість згенерованого контенту було вчасно заблоковано і він не мав значного охоплення, публікація звіту викликала нову хвилю дискусій у Вашингтоні щодо необхідності посиленого державного регулювання безпеки у сфері штучного інтелекту.
Раніше повідомлялося, що користувачам з Росії заблокували доступ до сервісу Cursor – одного з найбільших інструментів для написання коду за допомогою штучного інтелекту. За даними джерел, американський сервіс перестав працювати на території Росії 4 вересня. Офіційних коментарів не було, але за день до блокування до угоди користувача Cursor додали пункт про експортний контроль США.
Європейська комісія віднесла ChatGPT до категорії дуже великих онлайн-сервісів, що передбачає посилений регуляторний нагляд відповідно до Закону ЄС про цифрові послуги (DSA). Нові вимоги сервіс має виконати протягом чотирьох місяців.