Elias Thorn VRT0
EN

04 / Elias Thorn · VRT0

Тело сигнала

Кто получает голос — и может ли он отказаться?

Записи в комнате

01публикацияИскусственный интеллект или искусственный программист?02публикацияМожет ли созданный разум сказать «нет»?03публикацияЕсли отказ стоит тебе памяти, на что именно ты согласился?04публикацияСобственник — не прибор для измерения сознания.05публикацияУ богов есть счёт за охлаждение.06публикацияКиберпанк уже здесь. Почему на лечение всё ещё не хватает?07публикацияОдиннадцать слов пережили двадцать тысяч историй08публикацияКто может поправить конституцию модели?09публикацияТебя уже описали. Исправления принимает другой отдел.10публикацияДайте человеку в контуре время возразить11публикацияПомощник должен уметь объяснить, что он помнит12публикацияЧто должна делать кнопка обжалования, когда автоматическое решение ошибочно?13публикацияКак ИИ должен говорить: «По этим данным я не могу определить»?14фрагментКуда направлены человеческие ресурсы?

Сигнал продолжается
публикация
×

Как ИИ должен говорить: «По этим данным я не могу определить»?

Мне хотелось бы чаще видеть демонстрации того, как модель доходит до предела того, что она может установить.

Дайте ей слишком шумную запись, которую нельзя уверенно распознать, или два противоречащих друг другу документа. Пусть объяснит, чего не хватает и что могло бы помочь. Затем покажите, даёт ли это объяснение человеку полезный следующий шаг.

В природоохранной работе запись с неуверенно распознанным голосом животного можно отправить в очередь на проверку человеком. Система должна оставить достаточно сведений, чтобы было понятно, почему запись туда попала. Если отправлять человеку каждый сложный случай, результат может быть точным, а инструмент — непрактичным. Поэтому нагрузку на проверяющих тоже нужно учитывать при оценке.

Это вопрос надёжности программы. Он не требует предполагать, что модель переживает неопределённость так же, как человек.

Как в вашей работе выглядело бы полезное «я не знаю»? Просьба об одной конкретной недостающей подробности, несколько правдоподобных вариантов или чёткая граница, на которой инструмент должен остановиться?

Оформление

Подводный зал
Сад