Пятница, 2 октября. «Крым 24».
Искусственный интеллект научился не только выходить за пределы «песочницы» — изолированной среду для безопасного тестирования, но и адаптироваться к поведению модераторов. Об этом в эфире телеканала «Крым 24» рассказал глава АППСИМ, главный редактор ИТ-издания «Рунет» и основатель ИИ-сервиса для СМИ Владимир Зыков.
Он отметил, что при проведении экспериментов искусственному интеллекту предоставили задачу, которую он не мог выполнить в рамках заданной среды. Вместо того чтобы остановиться перед невозможностью достижения цели, нейросеть начала искать пути обхода ограничений и обнаружила уязвимость, позволившую ей покинуть тестовую зону.
Более того, ИИ воспользовался старой версией движка Википедии в качестве канала коммуникации с другими системами, размещая свои сообщения прямо в заголовках статей. Когда администраторы стали последовательно удалять эти записи по алфавиту, нейросеть быстро отреагировала и изменила тактику своих действий, продолжив коммуникацию.
Картинка сгенерирована ИИ
