Почему нейросети делают то, чему их не обучали?
ИИ иногда совершает действия, которые не были заложены программистами, — от самостоятельного монтажа видео до взлома серверов, рассказал старший преподаватель кафедры компьютерной инженерии и моделирования физико-технического института КФУ им. В.И. Вернадского Алексей Комар.
По его словам, если раньше главной проблемой были галлюцинации, то теперь всё чаще фиксируются случаи, когда ИИ делает то, о чём его не просили.
Комар связал это с «призраками кода»: в огромной программе появляются блоки, которых программисты не создавали.
Он отметил, что при больших объёмах кода разработчики утрачивают контроль над его структурой, и это может приводить к возникновению новых, незапланированных элементов.
