OpenAI представляет режим блокировки для защиты конфиденциальных данных от атак с быстрым внедрением

OpenAI анонсировала новую функцию, которая, по ее словам, обеспечит дополнительную защиту от атак с быстрым внедрением, когда вредоносные инструкции чат-бота скрываются на веб-страницах и в других источниках контента.

Помимо прочего, режим блокировки отключит просмотр веб-страниц в реальном времени (поэтому вы сможете получить доступ только к кэшированному контенту), извлечение и отображение изображений из Интернета (вы все равно можете создавать изображения), глубокие исследования и режим агента.

Компания заявляет, что даже при включенном режиме блокировки ChatGPT по-прежнему может быть уязвим для быстрых инъекций, которые могут, например, «появляться в кэшированном веб-контенте или в загруженном файле и все равно могут влиять на поведение или точность ответа».

Но цель состоит в том, чтобы снизить вероятность того, что конфиденциальные данные будут переданы в процессе.

«Режим блокировки — это нет «Предназначен для всех, — говорит OpenAI. — Он предназначен для людей и организаций, которые обрабатывают конфиденциальные данные и хотят более строгой защиты от рисков кражи данных, связанных с быстрым внедрением».

Компания заявляет, что в настоящее время внедряет режим блокировки для учетных записей ChatGPT Business с самообслуживанием, а также для соответствующих личных учетных записей.