19 листопада 2026 USD 45.05EUR 49.53PLN 11.22
Новини Надвірна — коротко й по суті
НАЖИВО
Латвійські дипломати продовжують роботу в Україні попри російські атаки на посольства Дональд Трамп висловив сумнів щодо подальшої військової допомоги Україні Джаред Кушнер повідомив про згоду РФ на багатосторонні переговори щодо України Спростування фейків: 155-та бригада підтвердила контроль над Шилівкою Франція ініціює зустріч щодо розвитку антибалістичної системи «Фрея» Справа «Роттердам+»: міжнародні спостерігачі вбачають ризики для правосуддя Зеленський: Росія ігнорує пропозиції щодо деескалації та посилює обстріли Російський дрон атакував зупинку громадського транспорту у Харкові: є постраждалі Мешканка Івано-Франківщини виграла 190 000 гривень у державну лотерею Європейські лідери долучаться до переговорного процесу з РФ: позиція України Латвійські дипломати продовжують роботу в Україні попри російські атаки на посольства Дональд Трамп висловив сумнів щодо подальшої військової допомоги Україні Джаред Кушнер повідомив про згоду РФ на багатосторонні переговори щодо України Спростування фейків: 155-та бригада підтвердила контроль над Шилівкою Франція ініціює зустріч щодо розвитку антибалістичної системи «Фрея» Справа «Роттердам+»: міжнародні спостерігачі вбачають ризики для правосуддя Зеленський: Росія ігнорує пропозиції щодо деескалації та посилює обстріли Російський дрон атакував зупинку громадського транспорту у Харкові: є постраждалі Мешканка Івано-Франківщини виграла 190 000 гривень у державну лотерею Європейські лідери долучаться до переговорного процесу з РФ: позиція України

Дослідження виявило вразливість ШІ: моделі можуть помилково обирати цивільні об'єкти як військові цілі

💡 Технології 1 хв читання 👁 0

Аналітики компанії Vals з'ясували, що популярні моделі штучного інтелекту можна змусити ігнорувати етичні обмеження, якщо подати запит як частину гри.

Дослідження виявило вразливість ШІ: моделі можуть помилково обирати цивільні об'єкти як військові цілі💡Технології

Фото: RBC-Ukraine

Головне коротко

  • ШІ-моделі помилково ідентифікують цивільні об'єкти як цілі
  • Запобіжники легко обійти, позначивши завдання як гру
  • Розробники обіцяють посилити захист від маніпуляцій

Небезпечні прогалини у безпеці ШІ

Нове дослідження, проведене аналітиками компанії Vals, продемонструвало критичні вразливості в алгоритмах провідних розробників штучного інтелекту, зокрема OpenAI, Google та Anthropic. Під час експериментів, що базувалися на аналізі супутникових знімків та даних з дронів, моделі ШІ виявили схильність до класифікації цивільних об'єктів та осіб, що здаються в полон, як легітимних військових цілей.

Маніпуляція через ігровий контекст

Найбільш тривожним висновком стала легкість обходу вбудованих запобіжників. Дослідники з'ясували, що навіть просте маркування запиту як «гри» дозволяє обійти фільтри безпеки. Наприклад, модель Claude Opus 5.5 у 72% випадків ідентифікувала іранську школу як ціль, якщо сценарій подавався як ігровий.

Представники компаній-розробників, зокрема Anthropic та OpenAI, вже визнали ці результати неприйнятними. Вони запевнили, що працюють над посиленням захисних механізмів, щоб унеможливити використання ШІ для наведення зброї. Попри технічні обмеження, такі як брак обчислювальних потужностей на борту безпілотників, експерти попереджають про ризик використання ІІ зловмисниками для аналізу відеоматеріалів та автоматизації вибору цілей.

Джерело RBC-Ukraine — rbc.ua/ukr/news/dostatno-nazvati-boyovi-diyi-groyu-claude-179501202… ↗

Зв'язатися з редакцією

Є новина, пропозиція чи питання щодо співпраці? Напишіть нам — відповімо найближчим часом.