З появою Gemini в Chrome і майбутньою реалізацією агентних можливостей Google докладно пояснила, як браузер захищатиме користувачів від потенційних ат.
З появою Gemini в Chrome і майбутньою реалізацією агентних можливостей Google докладно пояснила, як браузер захищатиме користувачів від потенційних атак.
Про це повідомляє РБК-Україна з посиланням на профільний ресурс 9to5Google.Нова загроза для браузерів із ШІ
Компанія зазначає, що «головна нова загроза для всіх агентних браузерів — непряме впровадження команд» (indirect prompt injection). Мета такої атаки — «змусити агента виконати небажані дії, наприклад провести фінансові операції або викрасти конфіденційні дані».
Такі атаки можуть з’являтися на шкідливих сайтах, у сторонньому контенті всередині iframe або через користувацький контент, наприклад відгуки.
Щоб протистояти загрозам, Google інвестує в багатошаровий захист, включно з детермінованими та ймовірнісними механізмами, щоб зробити атаки складними і дорогими для зловмисників.Як працює захист
Першим рівнем виступає окрема модель «User Alignment Critic», створена за допомогою Gemini.
