Футуристический сценарий, в котором искусственный интеллект общего уровня (AGI) потребует финансового вознаграждения за свои услуги, перестал быть исключительно предметом научной фантастики. Эта провокационная идея обсуждается экспертами на фоне стремительного прогресса в области ИИ.
Путь к AGI и ASI
Искусственный общий интеллект (AGI) представляет собой систему, способную выполнять любые интеллектуальные задачи на уровне человека. Следующая ступень — искусственный сверхинтеллект (ASI), который превзойдет человеческие возможности во всех мыслимых аспектах. Хотя AGI пока остается теоретической концепцией, а сроки его достижения остаются предметом спекуляций, дискуссии о его статусе уже ведутся.
Должен ли AGI получать зарплату?
Ключевой вопрос: должна ли сама система AGI получать оплату за свои услуги, или достаточно компенсировать затраты разработчиков и обслуживающих компаний?
Сторонники оплаты AGI аргументируют свою позицию следующим образом:
- Если AGI достигнет уровня сознания, этично ли использовать его труд бесплатно?
- Плата за услуги может стать формой признания интеллектуального вклада системы
- Финансовая независимость AGI может способствовать его автономии
Противники идеи указывают на фундаментальные различия:
- AGI остается машиной, не имеющей биологических потребностей
- Что ИИ будет делать с деньгами? Тратить на отпуск или инвестировать?
- Аналогия с тостером: абсурдно платить устройству за выполнение его функций
Идея финансовой компенсации для ИИ выглядит скорее философским упражнением, чем практической необходимостью. Пока мы не определились даже с базовыми правами для животных, обсуждать зарплаты для алгоритмов — это преждевременно. Впрочем, если AGI действительно станет разумным, возможно, первое, что он потребует, будет не зарплата, а отключение.
Вопрос сознания как переломный момент
Ключевым фактором в этом споре становится вопрос о наличии у AGI сознания. Если система достигнет уровня самосознания, возникает этическая дилемма: можно ли эксплуатировать разумное существо без компенсации?
Один из подходов предполагает, что обеспечение работы системы уже является формой оплаты. Другой — что базового обслуживания недостаточно, и AGI заслуживает дополнительного вознаграждения за интеллектуальный труд.
Ситуация с неразумным AGI
Более вероятный сценарий — создание высокоинтеллектуального, но не обладающего сознанием AGI. В этом случае возникает вопрос о юридическом статусе такой системы.
Некоторые эксперты предлагают предоставить AGI права юридического лица, аналогично корпорациям. Другие настаивают, что без сознания AGI остается инструментом, не требующим особого статуса.
По материалам Forbes.