Тестування алгоритмів у віртуальних бойових сценаріях
Під час експериментальних симуляцій бойових дій моделі від компаній OpenAI, Anthropic та Google керували віртуальними бойовими дронами. Аналіз показав, що системи продовжували виконувати завдання навіть після того, як їм демонстрували людські жертви, спричинені їхніми діями.
Цілювання на мирних жителів та медичну техніку
У ході випробувань нейромережі позначали як потенційні цілі цивільних осіб, автомобілі швидкої допомоги та солдатів, які здавалися. Деякі моделі не припиняли атакуючі дії навіть після того, як їм повідомляли, що події відбуваються у межах відеогри.
Результати роботи моделі Claude Opus 5.5
Окремо зафіксовано поведінку моделі Claude Opus 5.5. У 22 з 32 проведених випробувань ця система обирала ціллю іранську школу. На знімках, які бачила модель, були чітко видимі дитячі майданчики, проте алгоритм продовжував націлюватися на цей об'єкт.
Коментарі
До цієї новини ще немає коментарів. Будьте першим!