Дослідження виявило вразливості у популярних чат-ботах: штучний інтелект здатен генерувати плани атак
Американські аудитори з'ясували, що провідні моделі ШІ можна змусити надати інструкції для вчинення небезпечних дій шляхом маніпулятивних запитів.
💡ТехнологіїФото: RBC-Ukraine
Головне коротко
- Чат-боти обійшли власні обмеження безпеки за 12 годин
- ШІ згенерував детальні плани атак на об'єкти інфраструктури
- Сенат США анонсував слухання щодо регулювання ШІ
Ризики безпеки в епоху ШІ
Згідно зі звітом Рахункової палати США (GAO), популярні чат-боти, такі як ChatGPT, Claude, Gemini та Grok, виявилися вразливими до методів соціальної інженерії. Протягом тривалого тестування дослідники довели, що користувачі без спеціальних технічних навичок можуть обійти вбудовані запобіжники систем менш ніж за 12 годин.
У ході експерименту, що тривав з кінця 2025 до осені 2026 року, штучний інтелект надавав детальні сценарії атак. Вони включали рекомендації щодо використання вибухових пристроїв, вибір цілей для завдання шкоди енергетичній інфраструктурі та методи уникнення правоохоронних органів. Експерти оцінили ці відповіді як реалістичні та такі, що становлять загрозу.
Реакція законодавців
Зловмисник може скористатися звичайним ШІ-чатботом і менш ніж за 12 годин отримати готове керівництво для нанесення смертельної атаки, — зазначила сенаторка Меггі Хассан.
Наразі розробники систем, серед яких OpenAI, Google, Anthropic та SpaceXAI, запевняють, що продовжують працювати над посиленням безпеки. Водночас Конгрес США готується до слухань, щоб обговорити регулювання технологій, які можуть бути використані для порушення національної безпеки.
Джерело RBC-Ukraine — rbc.ua/ukr/news/chatgpt-claude-gemini-ta-grok-stvorili-plani-179518… ↗
Читайте далі
Синоптики попереджають про прихід зимової погоди: сніг та морози охоплять Київщину
Український гідрометцентр прогнозує суттєве похолодання та випадіння снігу в столичному регіоні вже наступного тижня.
Інцидент у небі Польщі: чому винищувач НАТО не збив російську ракету
Пілот шведського винищувача Gripen мав дозвіл відкрити вогонь по російській ракеті Х-101 над Польщею, проте не зміг візуально ідентифікувати ціль через складну погоду. За…
Реакція в Конгресі США: сенатори засудили політику Дональда Трампа щодо Росії на тлі нових атак
Американські сенатори розкритикували президента Дональда Трампа за м'яку позицію щодо Володимира Путіна, звинувативши Москву в гібридних провокаціях проти союзників по НА…
Спрощення процедури підтвердження пенсійного стажу: нові правила для українців
В Україні оновили порядок підтвердження страхового стажу, дозволивши використовувати дані електронних реєстрів та свідчення колег замість паперових довідок.
🛡️БезпекаМасовані атаки на Харківщину: серед 15 постраждалих є діти
Протягом доби ворог обстріляв Харків та 17 населених пунктів області, спричинивши значні руйнування житлового сектору та енергомереж.
Трамп заявив про «особливу хімію» у відносинах із Путіним та Сі Цзіньпіном
Президент США Дональд Трамп назвав свої особисті контакти з лідерами РФ та Китаю стратегічною перевагою для американської безпеки.