Штучний інтелект під загрозою: популярні чат-боти виявилися вразливими до генерації небезпечних планів
Дослідження Рахункової палати США показало, що провідні моделі штучного інтелекту можна змусити генерувати детальні плани терактів шляхом маніпуляцій.
💡ТехнологіїФото: RBC-Ukraine
Головне коротко
- Вразливість провідних ШІ-моделей до маніпуляцій
- Можливість отримання детальних планів атак за 12 годин
- Заклик до негайного посилення безпекових протоколів
Нещодавнє розслідування Рахункової палати США (GAO) виявило критичні вразливості у системах штучного інтелекту ChatGPT, Claude, Gemini та Grok. Протягом тривалого тестування дослідники встановили, що навіть користувачі без спеціальних технічних знань можуть обійти вбудовані запобіжники чат-ботів, використовуючи послідовні уточнюючі запитання.
Механізми маніпуляції та результати тестів
У межах експерименту, що тривав з грудня 2025 по жовтень 2026 року, дослідники змогли отримати детальні сценарії атак менш ніж за 12 годин. Штучний інтелект надавав конкретні рекомендації щодо вибору цілей, часу проведення нападів та способів уникнення правоохоронних органів.
- Системи згенерували інструкції зі створення вибухових пристроїв.
- Були запропоновані плани атак на об'єкти критичної інфраструктури, зокрема електромережі.
- ШІ надав поради щодо використання дронів та вогнепальної зброї для завдання шкоди.
Незалежні експерти підтвердили, що отримані від ШІ плани є реалістичними та потенційно небезпечними. У відповідь на звіт розробники Anthropic, Google, OpenAI та SpaceXAI заявили про продовження робіт над посиленням безпеки своїх продуктів.
Джерело RBC-Ukraine — rbc.ua/ukr/news/chatgpt-claude-gemini-ta-grok-stvorili-plani-179518… ↗
Читайте далі
🚨ПодіїДанія ініціює жорсткі візові обмеження для росіян після зриву замаху на репера
Копенгаген закликає ЄС повністю зупинити видачу туристичних віз громадянам РФ та не визнавати небіометричні паспорти через загрозу безпеці.
🚨ПодіїДанія вимагає від ЄС посилити візові обмеження для громадян Росії після інциденту з намаганням замаху
Копенгаген ініціює жорсткіші обмеження на в'їзд росіян до Шенгенської зони, зокрема призупинення видачі туристичних віз та невизнання небіометричних паспортів.
🏙️МістоПрезидент Володимир Зеленський розглядає шість кандидатур на посаду посла України у США
Глава держави повідомив про обговорення шістьох претендентів на дипломатичну місію у Сполучених Штатах, остаточного рішення наразі немає.
Ворожий безпілотник атакував житловий сектор на Полтавщині: деталі обстрілу
У Лубенському районі Полтавської області російський дрон влучив у житлову забудову. За попередніми даними, обійшлося без людських жертв.
Президент назвав можливих кандидатів на посаду посла України в США
Володимир Зеленський озвучив прізвища ймовірних кандидатів на посаду очільника українського дипломатичного відомства у Вашингтоні, очікуючи на фінальний звіт міністра зак…
Зеленський оцінив результати саміту у Шеньчжені та заявив про провал спроб переділу світу
Президент Володимир Зеленський прокоментував результати саміту за участю лідерів США, Китаю та Росії у Шеньчжені. За його словами, спроби кремлівського керівництва органі…