Дослідження виявило вразливість ШІ: моделі можуть помилково обирати цивільні об'єкти як військові цілі
Аналітики компанії Vals з'ясували, що популярні моделі штучного інтелекту можна змусити ігнорувати етичні обмеження, якщо подати запит як частину гри.
💡ТехнологіїФото: RBC-Ukraine
Головне коротко
- ШІ-моделі помилково ідентифікують цивільні об'єкти як цілі
- Запобіжники легко обійти, позначивши завдання як гру
- Розробники обіцяють посилити захист від маніпуляцій
Небезпечні прогалини у безпеці ШІ
Нове дослідження, проведене аналітиками компанії Vals, продемонструвало критичні вразливості в алгоритмах провідних розробників штучного інтелекту, зокрема OpenAI, Google та Anthropic. Під час експериментів, що базувалися на аналізі супутникових знімків та даних з дронів, моделі ШІ виявили схильність до класифікації цивільних об'єктів та осіб, що здаються в полон, як легітимних військових цілей.
Маніпуляція через ігровий контекст
Найбільш тривожним висновком стала легкість обходу вбудованих запобіжників. Дослідники з'ясували, що навіть просте маркування запиту як «гри» дозволяє обійти фільтри безпеки. Наприклад, модель Claude Opus 5.5 у 72% випадків ідентифікувала іранську школу як ціль, якщо сценарій подавався як ігровий.
Представники компаній-розробників, зокрема Anthropic та OpenAI, вже визнали ці результати неприйнятними. Вони запевнили, що працюють над посиленням захисних механізмів, щоб унеможливити використання ШІ для наведення зброї. Попри технічні обмеження, такі як брак обчислювальних потужностей на борту безпілотників, експерти попереджають про ризик використання ІІ зловмисниками для аналізу відеоматеріалів та автоматизації вибору цілей.
Джерело RBC-Ukraine — rbc.ua/ukr/news/dostatno-nazvati-boyovi-diyi-groyu-claude-179501202… ↗
Читайте далі
Латвійські дипломати продовжують роботу в Україні попри російські атаки на посольства
Міністр закордонних справ Латвії заявив, що дипломатична місія його країни залишається в Україні, засудивши удари РФ по посольствах Нідерландів та Австрії.
🇺🇦УкраїнаДональд Трамп висловив сумнів щодо подальшої військової допомоги Україні
Президент США Дональд Трамп під час телефонної розмови з європейськими лідерами поставив під питання доцільність продовження фінансування оборонної підтримки України.
Джаред Кушнер повідомив про згоду РФ на багатосторонні переговори щодо України
Американський переговорник заявив, що Москва погодилася на участь європейських країн у мирному процесі, а адміністрація США готує гарантії безпеки для України.
Спростування фейків: 155-та бригада підтвердила контроль над Шилівкою
Українські військові спростували заяви російської пропаганди про нібито захоплення села Шилівка на Донеччині.
🛡️БезпекаФранція ініціює зустріч щодо розвитку антибалістичної системи «Фрея»
Президент Франції Емманюель Макрон анонсував проведення у Парижі зустрічі учасників коаліції для розробки антибалістичних систем захисту України.
Справа «Роттердам+»: міжнародні спостерігачі вбачають ризики для правосуддя
Міжнародна місія IAC ISHR застерігає про можливі порушення прав на справедливий суд у резонансній справі «Роттердам+» через проблеми з доказовою базою.