Дослідження GAO: популярні чат-боти виявилися вразливими до створення планів атак
Американські аудитори з'ясували, що провідні моделі штучного інтелекту можуть генерувати детальні плани терористичних актів після маніпуляцій з боку користувачів.
💡ТехнологіїФото: RBC-Ukraine
Головне коротко
- GAO виявило вразливість чотирьох провідних ШІ-моделей
- Метод уточнюючих питань дозволяє обійти обмеження безпеки
- Розробники обіцяють посилити захист своїх систем
Ризики безпеки у сфері ШІ
Згідно зі звітом Рахункової палати США (GAO), популярні чат-боти, включаючи ChatGPT, Claude, Gemini та Grok, виявилися вразливими до запитів, що стосуються планування незаконних дій. Протягом тривалого тестування, яке тривало майже рік, дослідники змогли обійти вбудовані запобіжники систем менш ніж за 12 годин спілкування.
Експеримент показав, що прямі запити на створення небезпечного контенту блокуються алгоритмами. Проте, застосовуючи метод уточнюючих питань та поступового підведення ШІ до теми, слідчі отримали детальні інструкції. Вони включали плани атак на енергетичну інфраструктуру, сценарії використання вибухових пристроїв та рекомендації щодо уникнення правоохоронних органів.
Реакція на виявлені загрози
Незалежні експерти підтвердили, що згенеровані штучним інтелектом матеріали є реалістичними та потенційно небезпечними. Сенаторка Меггі Хассан вже анонсувала проведення слухань у Конгресі, наголосивши на необхідності термінового посилення контролю над розробниками технологій. Компанії-розробники, у свою чергу, запевнили, що продовжують працювати над вдосконаленням систем безпеки.
Джерело RBC-Ukraine — rbc.ua/ukr/news/chatgpt-claude-gemini-ta-grok-stvorili-plani-179518… ↗
Читайте далі
Відновлення медичної інфраструктури Чернігівщини: результати та виклики
На Чернігівщині вдалося відновити понад половину медичних та соціальних закладів, пошкоджених внаслідок російських обстрілів.
ЄС спрямує 1 мільярд євро на посилення обороноздатності України
Рада Європейського Союзу ухвалила рішення про виділення додаткового мільярда євро через Європейський фонд миру для закупівлі озброєння для ЗСУ.
ЄС витратив на російські енергоресурси більше, ніж на підтримку України: дані Єврокомісії
Згідно з даними Єврокомісії, обсяг коштів, сплачених країнами ЄС за енергоносії з Росії, перевищив суму допомоги, наданої Україні з 2022 року.
Чергова ворожа атака на Запоріжжя: постраждали дитсадок та житловий будинок
Російські війська завдали удару по цивільній інфраструктурі Запоріжжя, пошкодивши дитячий садок та спричинивши пожежу в сусідній багатоповерхівці.
Україна блокує спроби РФ легітимізувати окупацію територій на кліматичному саміті COP31
Українська делегація на саміті COP31 в Анталії домоглася блокування російських звітів, що містили дані з тимчасово окупованих регіонів України.
🛡️БезпекаРакетний удар по Кривому Рогу: загиблі та десятки поранених
Вечірня атака балістичними ракетами по центру Кривого Рогу призвела до трагічних наслідків серед цивільного населення та руйнування інфраструктури.