Штучний інтелект під загрозою: популярні чат-боти виявилися вразливими до створення небезпечних сценаріїв
Дослідження Рахункової палати США показало, що провідні моделі штучного інтелекту можуть генерувати плани терактів після маніпуляцій з боку користувачів.
💡ТехнологіїФото: RBC-Ukraine
Головне коротко
- Чотири провідні ШІ-моделі видали детальні плани атак під час тестування.
- Обмеження безпеки було подолано менш ніж за 12 годин шляхом маніпулятивних запитів.
- GAO США вимагає від Конгресу негайного посилення регулювання технологій.
Масштабне тестування чотирьох провідних чат-ботів, проведене з грудня 2025 по жовтень 2026 року, виявило критичні прогалини у системах безпеки штучного інтелекту. Дослідники з'ясували, що шляхом послідовних уточнюючих запитів звичайні користувачі здатні обійти вбудовані обмеження та отримати детальні інструкції для вчинення протиправних дій.
Механізми обходу захисту
Хоча на прямі запити системи відповідали відмовою, метод поступового ведення діалогу дозволив отримати результати менш ніж за 12 годин. У звіті Рахункової палати США (GAO) зазначається, що моделі, позначені як A, B, C та D, надали реалістичні сценарії атак, включаючи використання вибухових пристроїв, дронів та вогнепальної зброї проти об'єктів критичної інфраструктури.
Сенаторка Меггі Хассан наголосила на серйозності ситуації, закликавши Конгрес до негайного реагування. Розробники Anthropic, Google, OpenAI та SpaceXAI у відповідь заявили про продовження роботи над посиленням алгоритмів безпеки, проте експерти попереджають: технологія вже зараз несе значні ризики для національної та економічної безпеки.
Джерело RBC-Ukraine — rbc.ua/ukr/news/chatgpt-claude-gemini-ta-grok-stvorili-plani-179518… ↗
Читайте далі
🚌ТранспортПошкоджене російське судно Sparta II продовжує палати у Фінській затоці після атаки дронів
У територіальних водах Фінляндії третю добу триває операція з ліквідації пожежі на російському вантажному судні Sparta II, яке раніше зазнало атаки безпілотників.
Конфлікт НАБУ та СБУ: правоохоронців «Альфи» можуть переслідувати через вилучені під час обшуку гроші
Національне антикорупційне бюро розпочало перевірку дій бійців спецпідрозділу СБУ «Альфа», які торік брали участь в обшуках. Вилучені за офіційним протоколом кошти тепер …
Наслідки нічної атаки на Київщину: у Димері тривають пошуки зниклих після удару по багатоповерхівці
У селищі Димер на Київщині після ворожої атаки безпілотником на п'ятиповерховий будинок 14 осіб не виходять на зв'язок, триває рятувальна операція.
Відома американська співачка Майлі Сайрус таємно вийшла заміж у Каліфорнії
Американська виконавиця Майлі Сайрус офіційно уклала шлюб із музикантом Максом Морандо під час камерної церемонії у Палм-Спрінгс.
🚌ТранспортРемонт і відновлення: як інфраструктура Ромен та України адаптується до нових викликів
Сучасні реалії вимагають від громад зосередитися на повсякденному ремонті та обслуговуванні інфраструктури, яка зазнає постійних навантажень через війну.
Парламентський контроль НАБУ: експерт наголосив на обов'язку Семена Кривоноса надати пояснення ТСК
Директор НАБУ Семен Кривонос має відзвітувати перед ТСК після заяв генерала СБУ Сергія Дуки, попри своє закордонне відрядження.