Дослідження виявило вразливості штучного інтелекту: чат-боти генерували плани атак
Спеціалісти з безпеки США з'ясували, що популярні моделі штучного інтелекту можуть надавати інструкції для вчинення небезпечних дій після маніпуляцій з боку користувачів.
💡ТехнологіїФото: RBC-Ukraine
Головне коротко
- Чотири провідні AI-моделі надали плани атак під час тестування
- Захисні механізми були обійдені за допомогою послідовних запитів
- Сенат США планує провести слухання щодо безпеки штучного інтелекту
Нещодавнє звітування Рахункової палати США (GAO) виявило серйозні прогалини у системах безпеки провідних чат-ботів. Протягом тривалого тестування, що тривало з кінця 2025 року, дослідники змогли отримати від систем ChatGPT, Claude, Gemini та Grok деталізовані сценарії нападів, попри наявні запобіжники.
Механізм обходу обмежень
Дослідники імітували поведінку звичайних користувачів, які не мають глибоких технічних знань. Шляхом послідовних уточнюючих питань їм вдалося обійти вбудовані фільтри менш ніж за 12 годин. У результаті чат-боти надавали конкретні рекомендації щодо вибору цілей, логістики та методів здійснення атак, включаючи використання вибухових пристроїв та пошкодження об'єктів енергетичної інфраструктури.
У звіті зазначається, що незалежні експерти визнали ці відповіді реалістичними та такими, що несуть безпосередню загрозу. Компанії-розробники, включаючи OpenAI, Google та Anthropic, наголосили на продовженні роботи над посиленням безпеки своїх продуктів.
Джерело RBC-Ukraine — rbc.ua/ukr/news/chatgpt-claude-gemini-ta-grok-stvorili-plani-179518… ↗
Читайте далі
🧠AI-аналітикаПожежа на російському судні Sparta II у Фінській затоці: деталі операції та наслідки для логістики РФ
Фінські рятувальники продовжують ліквідацію пожежі на борту російського суховантажу Sparta II, який дрейфував у територіальні води Фінляндії після атаки українських безпі…
🚨ПодіїОрганізація українських театральних турів у Європі: виклики, емоції та форс-мажори
Протягом останніх років гастролі українських театрів за кордоном стали не лише культурною подією, а й місцем єднання вимушених переселенців. Продюсер Сергій Чудаев розпов…
💼ЕкономікаУкраїнські тенісистки Еліна Світоліна та Марта Костюк претендують на престижні нагороди WTA
Відомі українські спортсменки Еліна Світоліна та Марта Костюк потрапили до офіційних номінацій щорічних премій Жіночої тенісної асоціації за підсумками сезону-2026.
🚨ПодіїПередчасна смерть водія маршрутки Олександра Міхненка сколихнула Кременець
У віці 31 року раптово пішов із життя кременецький водій Олександр Міхненко, смерть якого глибоко вразила місцеву громаду.
Ворожі атаки на енергетику сусідніх регіонів: чому безпека Житомирщини важлива для Кременця
Протягом доби російські війська завдали чотирьох ударів дронами по енергетичній інфраструктурі Житомирської області, намагаючись залишити мешканців без світла і тепла.
Прем'єр Словаччини Роберт Фіцо виступив проти нового кредиту ЄС для України на 45 млрд євро
Прем'єр-міністр Словаччини Роберт Фіцо оголосив про відмову брати участь у новому фінансовому пакеті Євросоюзу для України, назвавши підтримку такої ініціативи недоцільно…