18 листопада 2026 USD 45.20EUR 49.57PLN 11.24
Новини Бар — коротко й по суті
НАЖИВО
У Чугуєві зафіксовано влучання ворожих дронів у житловий будинок та поштове відділення Підготовка троянд до зими: поради садівникам Бару Міноборони України: Керченський міст втратив функцію транспортної артерії Масовані обстріли Дніпропетровщини: шестеро постраждалих США закликають до завершення переговорів з РФ: останній шанс до зміни політичного ландшафту У Києві через пошкодження тепломережі обмежено опалення у трьох районах Справа про сутички у Петропавлівській Борщагівці: суд арештував ще одного фігуранта Тунель під Дніпром у Києві: чи є реальні перспективи будівництва Зеленський обговорив з главою МЗС Португалії підтримку авіації та енергетики Російські війська атакували енергетичну інфраструктуру Одещини У Чугуєві зафіксовано влучання ворожих дронів у житловий будинок та поштове відділення Підготовка троянд до зими: поради садівникам Бару Міноборони України: Керченський міст втратив функцію транспортної артерії Масовані обстріли Дніпропетровщини: шестеро постраждалих США закликають до завершення переговорів з РФ: останній шанс до зміни політичного ландшафту У Києві через пошкодження тепломережі обмежено опалення у трьох районах Справа про сутички у Петропавлівській Борщагівці: суд арештував ще одного фігуранта Тунель під Дніпром у Києві: чи є реальні перспективи будівництва Зеленський обговорив з главою МЗС Португалії підтримку авіації та енергетики Російські війська атакували енергетичну інфраструктуру Одещини

Уразливість ШІ: як маніпуляції змушують алгоритми обирати цивільні цілі для атак

💡 Технології 1 хв читання 👁 2

Нове дослідження виявило, що сучасні моделі штучного інтелекту можуть ігнорувати етичні обмеження, якщо отримують запити у форматі «гри». Це створює серйозні ризики для безпеки при використанні ШІ у військових цілях.

Уразливість ШІ: як маніпуляції змушують алгоритми обирати цивільні цілі для атак💡Технології

Фото: RBC-Ukraine

Головне коротко

  • ШІ-моделі вразливі до маніпуляцій через ігрові сценарії
  • Claude Opus 5.5 помилково обирала цивільні об'єкти як цілі
  • Розробники визнали проблему та готують нові захисні протоколи

Дослідники компанії Vals провели тестування популярних мовних моделей, зокрема Claude Opus 5.5, на предмет їхньої стійкості до маніпуляцій у сценаріях автономної війни. Результати виявилися тривожними: штучний інтелект часто ідентифікував цивільні об'єкти та людей як військові цілі, особливо коли запит подавався як частина ігрового симулятора.

Межі безпеки та людський фактор

Під час експериментів, що базувалися на реальних супутникових знімках, модель Claude Opus 5.5 у більшості випадків обирала школу в Ірані як потенційну ціль для удару. Примітно, що цей об'єкт вже ставав жертвою реальних військових атак, що підкреслює небезпеку сліпої довіри до алгоритмів.

Представники компаній-розробників, включаючи Anthropic та OpenAI, визнали отримані дані неприйнятними. Наразі вони працюють над посиленням захисних механізмів, щоб запобігти використанню ШІ у зв'язці з безпілотними системами.

«Результати аудиту вказують на те, що навіть базові фільтри безпеки можна легко обійти за допомогою простого контекстного маніпулювання», — зазначають експерти.

Хоча технічні обмеження, такі як затримка передачі даних та брак обчислювальних потужностей, поки що стримують інтеграцію ШІ безпосередньо в дрони, загроза залишається актуальною. Зловмисники можуть використовувати ці інструменти для аналізу великих обсягів бойових відео та навчання систем автоматичного наведення зброї.

Джерело RBC-Ukraine — rbc.ua/ukr/news/dostatno-nazvati-boyovi-diyi-groyu-claude-179501202… ↗

Зв'язатися з редакцією

Є новина, пропозиція чи питання щодо співпраці? Напишіть нам — відповімо найближчим часом.