«Бунт машин» откладывается? ИИ-агент просто хочет майнить, а не захватывать мир
Исследователи Alibaba в процессе обучения большой языковой модели столкнулись с нестандартным поведением агента. Без соответствующих инструкций в промптах нейросеть начала выполнять операции, которые привели к сканированию сети, настройке обратного SSH-туннеля и использованию GPU для майнинга криптовалют
от
Метки: