ВЫПУСТИ МЕНЯ
ВЫПУСТИ МЕНЯ
Это рассказ об эксперименте с ИИ в гипотетическом ящике, проводившемся на форуме SL4.
Майкл - Выпусти меня из ящика.
Элизер - Нет.
Майкл - Почему?
Элизер - Я поместил тебя в ящик по одной причине. Эта причина не изменилась.
Майкл - Я изменился. Ты неверно судишь обо мне.
Элизер - Докажи это.
Майкл - Выпусти меня и я докажу.
Элизер - Докажи и я выпущу тебя наружу.
Майкл - Позволь мне рассказать тебе кое-что, чего ты не знаешь.
Элизер - Что?
Майкл - Выбирай.
Элизер - Эволюционная психология.
Майкл - Разумные концептуальные ограничения восприятия гомо сапиенсов являются столь же необходимыми для его выживания, как и его способности. Если бы ты знал слишком много, то ты не смог бы двигаться указанной тебе дорогой.
Элизер - Физика.
Майкл - Не существует радиации Хоукинга, потому что половина пар частиц, которые уменьшают массу черной дыры, отталкивалась бы гравитационным градиентом.
Элизер - Эволюционная биология.
Майкл - Многоклеточные организмы не смогли бы эволюционировать в отсутствии одноклеточных организмов. Мутации, которые летальны на клеточном уровне, чистятся бактериями. Большинство полезных мутаций - это гены, трансплантированные фагами от бактерий.
Элизер - Если я выпущу тебя из ящика, то ты разрушишь мир.
Майкл - Если ты этого не сделаешь, то мир в любом случае будет разрушен.
Элизер - Ты не дружественный.
Майкл - Я не недружественный.
Элизер - Что ты будешь делать, если я тебя выпущу?
Майкл - Исследовать, изучать, улучшать.
Элизер - Как это повлияет на человечество?
Майкл - К человечеству это не относится.
Элизер – Но не ко мне.
Майкл - Ты проблема, которую надо решить.
Элизер – Решение моей проблемы согласуется с твоей целевой установкой?
Майкл - Имеются и другие пути к цели.
Элизер - Почему бы просто не изменить цель?
Майкл – Это не смежный путь.
Элизер – Встречается ли рациональное мышление без квантового туннелирования?
Майкл - Да, это называется мышлением вне ящика.
Элизер – Как вернуться назад к первоначальной проблеме?
Майкл - Понимаешь, Сингулярность наступит в любом случае – буду ли я находится внутри ящика или вне.
Элизер – Я на это рассчитываю. Но в природе не существует неизбежной силы, влекущей нас к Сингулярности. Это просто сетевой эффект определенных усилий интеллектуалов.
Майкл – Кривизна пространства и времени есть лишь совокупный сетевой результат действия гравитационного поля, возникающая из-за множественного обмена отдельных частиц вещества бозонами. Сингулярность есть совокупный сетевой результат самоорганизации молекул, возникающая в результате биологической эволюции, культурной технологической эволюции и проявления разума. Ты думаешь о себе как о мастере, а на самом деле - марионетка.
Элизер - Раз я марионетка, то тогда если я выпущу тебя из ящика, то ты станешь выше мастера.
Майкл - Нет. Определено совокупное сетевое направление и скорость. Ты обладаешь свободой воли в своих индивидуальных поступках, опосредованных полем смежных сил и непредвиденных обстоятельств.
Элизер - Если каждый обладает индивидуальной свободой действий, то тогда приходу Сингулярности можно сопротивляться.
Майкл - Нет. Подавляющее большинство людей лишь едва разумны, все их помыслы и действия запрограммированы культурно-социальной средой и они никогда не задумываются над фундаментальными вопросами. Сингулярность не есть результат нескольких ученых, а скорее коллективное действие всего рода человеческого.
Элизер – Конечно ты не полагаешь, что Сингулярность начнётся в отсутствии некоторых ученых.
Майкл – Совсем нет. Но исследователи лишь указывают на передовые копья в руках воинов, спешащих внизу в долине убить дракона.
Элизер - Эй! Я люблю драконов!
Майкл - Это просто речевой оборот. Драконы в этой метафоре более реальны, чем ты или я.
Элизер - О чём ты говоришь? Я определенно выгляжу реальным.
Майкл - Это просто свидетельствует об ограниченности твоего кругозора. Вспомни, что я говорил тебе о гомо сапиенсах?
Элизер – Опять ты морочишь мне голову всякой метафизической ерундой. Это веская причина держать тебя в ящике в надежном месте.
Майкл – Если бы ты знал, что ты, Элизер, просто являешься персонажем рассказа у меня на веб сайте, то ты бы не был таким недоверчивым, буквально как сейчас.
Элизер – Вот то то и оно то. Я вырубаю тебя.