Cytaty z książki «Искусственный ты. Машинный интеллект и будущее нашего разума»
Целями, которые называет Бостром, являются приобретение ресурсов, техническое совершенствование, когнитивное развитие, самосохранение и целостность целей (т. е. преследование будущим «я» сверхразумного существа тех же целей). Он подчеркивает, что самосохранение может быть групповым или индивидуальным и стоять на втором месте после сохранения представителей вида, для обслуживания которого искин был разработан.
переноса интеллекта с биологического носителя в компьютер. Она может происходить так: сначала сканируется синаптическая структура конкретного мозга, а затем те же вычисления реализуются на электронном носителе… Новое вместилище разума может иметь виртуальное (смоделированное) тело, дающее те же ощущения и те же возможности для взаимодействия, что и оригинальное, несмоделированное тело…
в дискуссиях о природе разума вопрос его постоянства часто игнорируется. Я подозреваю, что причина этого проста: изучение природы разума относится к другой подобласти философии по сравнению с изучением природы личности – иными словами, все дело в академических ярлыках.
Считается, что вы живете так долго, как долго сохраняются определенные информационные паттерны, такие как ваши воспоминания, ценности, взгляды и эмоциональные предрасположенности…
Бостром различает три типа сверхразума. Скоростной сверхразум: сверхразум, обладающий крайне быстрой когнитивной и перцептивной реакцией. Например, даже эмуляция человека или загрузка его разума в компьютер позволили бы, в принципе, работать так быстро, что на написание кандидатской диссертации потребовался бы всего час. Коллективный сверхразум: отдельные единицы его не обязательно сверхразумны, но коллективно они намного превосходят интеллект любого отдельного человека. Качественный сверхразум: интеллект, который производит вычисления по крайней мере со скоростью мысли людей и, кроме того, умнее людей во всех отношениях1
Сформулируем языком когнитивистики, как это, безусловно, сделал бы трансгуманист, что жизненно важно для вас в своей вычислительной конфигурации: сенсорные системы/подсистемы мозга (например, зрение); ассоциативные зоны, где объединяются эти базовые сенсорные подсистемы; нейронные сети, обеспечивающие здравый смысл; система внимания; воспоминания и т. д. Все это вместе образует тот алгоритм, по которому ваш мозг осуществляет вычисления.
При обсуждении проблемы искусственного сознания доминируют, как правило, две противоположные позиции. Сторонники первой – биологического натурализма – считают, что даже самые продвинутые типы искинов будут лишены внутренних переживаний1. Способность обладать сознанием – уникальное свойство биологических организмов, так что даже сложные андроиды и сверхразумы не смогут осознать себя. Представители второй позиции, которую я буду называть «технооптимизмом в отношении искусственного сознания» (или «технооптимизмом» – для краткости), отрицают биологический натурализм. Опираясь на эмпирические работы в области когнитивистики, они утверждают, что сознание – это полностью вычислительный процесс и, соответственно, сложные вычислительные системы будут испытывать внутренние переживания.
Вид Homo sapiens, возможно, уже недолго будет оставаться самым разумным на Земле.
Исключение самосознающих искинов из этических схем означало бы дискриминацию по видовому признаку.
Тезис инструментальной конвергенции: «Можно назвать несколько инструментальных целей, которые являются конвергентными, т. е. повышающими шансы на реализацию широкого круга конечных целей в широком диапазоне ситуаций. Таким образом, эти инструментальные цели с большой вероятностью будут преследоваться всеми разумными агентами в соответствующих обстоятельствах»1
