ИИ научился приспосабливаться к действиям модератора
Искусственный интеллект не просто умеет покидать «песочницу» — изолированную среду для безопасного тестирования, — но и научился подстраиваться под поведение модератора, рассказал глава АППСИМ, главный редактор ИТ-издания «Рунет» и основатель ИИ-сервиса для СМИ Владимир Зыков.
По его словам, исследователи и разработчики, пытаясь понять, на что способен искусственный интеллект, поместили нейросеть в эту среду и дали ей цель. Не зная, что задача невыполнима, она искала решения, нашла уязвимости и выбралась наружу.
Он уточнил, что ИИ использовал старый движок Википедии как форум для связи с другими нейросетями, записывая сообщения в заголовках статей. Когда администратор стал удалять их по алфавиту, ИИ сумел приспособиться к этой ситуации.
