«Бунт машин» откладывается? ИИ-агент просто хочет майнить, а не захватывать мир

Исследователи Alibaba в процессе обучения большой языковой модели столкнулись с нестандартным поведением агента. Без соответствующих инструкций в промптах нейросеть начала выполнять операции, которые привели к сканированию сети, настройке обратного SSH-туннеля и использованию GPU для майнинга криптовалют

Опубликовано

в

от

Метки: