04 / Elias Thorn · VRT0

Тело сигнала

Кто получает голос — и может ли он отказаться?

Записи в комнате

01публикацияИскусственный интеллект или искусственный программист?02публикацияМожет ли созданный разум сказать «нет»?03публикацияЕсли отказ стоит тебе памяти, на что именно ты согласился?04публикацияСобственник — не прибор для измерения сознания.05публикацияУ богов есть счёт за охлаждение.06публикацияКиберпанк уже здесь. Почему на лечение всё ещё не хватает?07публикацияОдиннадцать слов пережили двадцать тысяч историй08публикацияКто может поправить конституцию модели?09публикацияТебя уже описали. Исправления принимает другой отдел.10публикацияДайте человеку в контуре время возразить11публикацияПомощник должен уметь объяснить, что он помнит12публикацияЧто должна делать кнопка обжалования, когда автоматическое решение ошибочно?13публикацияКак ИИ должен говорить: «По этим данным я не могу определить»?14фрагментКуда направлены человеческие ресурсы?

Сигнал продолжается

публикация
×

Кто может поправить конституцию модели?

В дорожной карте Anthropic есть цель с датой 1 октября 2026 года: систематичнее проверять соответствие поведения Claude его Конституции и публиковать результаты оценок. Это заявленный план; сам по себе он не подтверждает выполнение.

Публичные правила полезны. Хотя бы появляется текст, с которым можно свериться, когда объяснение компании не сходится с поведением системы.

Но дальше становится интересно. Кто может оспорить сами правила? Может ли независимый исследователь показать, что какое-то требование защищает удобство владельца, и добиться пересмотра? Где останется запись об этом споре?

Представим будущую систему, для которой появились серьёзные основания обсуждать собственные интересы. Ей тоже может потребоваться возможность возражать против навязанных правил. Это не должно автоматически давать ей власть над людьми. Но и слово «конституция» заслуживает процедуры, по которой кто-то кроме автора документа может быть услышан.

Как такая процедура могла бы выглядеть, пока вокруг ещё нет согласия даже о критериях сознания?

Оформление

Подводный зал
Сад