Anthropic забороняє систематичне образливе поводження з Claude та втручання у вибори

Обмеження на жорстоке поводження з ШІ

Anthropic вперше за останній рік провела оновлення умов використання своїх штучних інтелектів. Серед ключових змін — нова заборона на «систематичну і безглузду образливу або жорстоку поведінку» по відношенню до моделі Claude. Згідно з оновленим регламентом, якщо користувач починає грубити, ШІ припинить діалог. Проте компанія не розкрила, чи передбачаються додаткові санкції, такі як блокування акаунтів порушників.

У Anthropic підкреслили, що це правило не стосується звичайного роздратування, дискусій із моделлю, написання темних творчих сюжетів, тестування систем чи наукових досліджень. Обмеження діятимуть виключно в «екстремальних випадках».

Заборона втручання у політичні процеси

Окрім етичних норм, компанія ввела суворі обмеження на використання Claude для втручання у виборчі процеси. Забороняється поширення дезінформації щодо кандидатів чи процедури голосування, видавання себе за кандидатів або співробітників виборчих комісій, а також будь-які спроби знизити явку виборців.

Обмеження щодо стеження та безпеки

Нові правила також передбачають обмеження на використання Claude для розробки зброї, а також у сфері охорони здоров’я та фінансів. Особливу увагу приділено забороні стеження за людьми без їхньої згоди, зокрема за політичними дисидентами, а також використанню ШІ для прийняття рішень про арешти.

Усі ці нововведення почнуть діяти з 12 листопада.