Если вы еще не получили памятку о том, что ИИ собирается взять верх над миром, вот несколько фактов, которые вам нужно знать.(Фото: Шан Шихан / Flickr) В этом году компьютер впервые победил чемпиона мира по го, одной из самых сложных игр, известных человеку. Это был еще один переломный момент в развитии искусственного интеллекта.
Чтобы дать вам представление о том, насколько сложен Go, существуют возможные конфигурации плат 2,082 × 10 ^ 170. Это 2 со 170 нулями после него. Скорее всего, ваш мозг не может даже представить себе такое большое число (но компьютер может). Или чтобы дать вам представление о том, насколько велико число что То есть во Вселенной всего 10 ^ 80 атомов, то есть один, за которым следует 79 нулей.
Причина, по которой это так важно, заключается в том, что Го настолько сложен, что для того, чтобы победить лучшего игрока-человека, машина должна научиться творчески мыслить, импровизировать и приспосабливаться к текущей ситуации, не имея возможности просчитывать все возможные варианты. исход; То есть должен существовать какой-то серьезный искусственный интеллект - например, настоящий творческий интеллект.
Если вы еще не получили памятку о том, что ИИ собирается взять верх над миром, вот несколько фактов, которые вам нужно знать.
- Компьютеры становятся умнее.
- Компьютеры становятся умнее и быстрее - то есть для достижения прогресса, на которое раньше уходило 10 лет, теперь требуется один год. Успехи, которые раньше занимали один год, теперь занимают недели или даже дни.
- Весьма вероятно, что в течение нашей жизни появятся компьютеры, которые намного умнее и способнее любого человека.
- Эти более умные компьютеры, вероятно, смогут разрабатывать и улучшать технологии (то есть самих себя) и создавать новые технологии, которые мы даже не можем понять.
Люди, которые понимают вышеуказанные моменты, обычно имеют одну из двух реакций. Либо:
- Они думают, что мы полностью облажались. Компьютеры захватят все и убьют / поработят всех нас. Или же:
- Это приведет к технологической утопии, которая исправит все наши глупые человеческие ссоры, и мы все сможем жить долго и счастливо после оргий в нашем мире ультра-виртуальной реальности, который существует в облаке.
Как и в большинстве случаев, правда, скорее всего, находится где-то посередине.
Но даже если дерьмо попадет в вентилятор, даже если роботы увидят в нас вшей, разрушающих первозданный скальп этой планеты, и захотят окружить нас всех и бросить в действующий вулкан, даже если мы непреднамеренно изобретаем сами механизмы. вымирание…
… Мне все равно. Неважно. Меня это не беспокоит. И вас это тоже не должно беспокоить. Я немного объясню почему. Но пока вы должны знать, что я, например, приветствую наших новых повелителей роботов.
УСКОРЕНИЕ РАЗВИТИЯ ТЕХНИЧЕСКОЙ ОТРАСЛИ
Технологические разработки накладываются друг на друга, вызывая показатель самого развития, чтобы ускориться. Это означает, что чем более совершенные технологии мы создаем, тем легче становится создавать еще более совершенные технологии. В результате, когда мы смотрим на развитие вычислительной техники, мы видим экспоненциальную кривую, то есть чем больше времени проходит, тем быстрее развиваются вещи. 
Технологические разработки усугубляются сами по себе, вызывая ускорение самой скорости развития.(Фото: Деннис Скли / Flickr)
Вычислительная мощность в среднем увеличилась вдвое каждые 18 месяцев в течение 50 лет . С точки зрения вычислительной мощности компьютеры теперь могут соперничать со способностями мозга мыши, тогда как всего несколько лет назад компьютеры не могли даже конкурировать с мозгом насекомого.
Чтобы дать вам более непосредственный пример того, как быстро развиваются технологии, теперь каждые 2 минуты делается больше снимков, чем за весь 19 век. Около 10% из 3,5 триллиона когда-либо сделанных фотографий были сделаны за последние 12 месяцев.
Если мы действительно находимся на экспоненциальной кривой, когда дело доходит до достижений высоких технологий, то людям нравится Джереми Ховард вероятно, правы, когда он говорит, что мы всего в нескольких годах от искусственного машинного интеллекта, который конкурирует, если не превосходит, наш собственный во многих областях, которые ранее считались исключительно человеческими.
И, конечно же, ИИ проникает во все больше и больше сфер нашей жизни.
Всего десять лет назад люди смеялись над плохой производительностью беспилотных автомобилей. Сегодня, всего лишь десять лет спустя, беспилотные автомобили могут не только пройти курс по закрытой дороге, но и едут по загруженным автострадам вместе с автомобилями, управляемыми людьми.
А когда компьютеры не побеждают чемпиона мира по го, они заняты такими вещами, как написание статей о спорте и последних новостей , писать описания изображений, которых они никогда раньше не видели, и диагностика рака . Для многих из этих задач компьютеры так же хороши, если не лучше, чем люди, а для тех, кем они не являются, они обучение как делать их лучше и лучше каждый день без помощи людей.
Несколько лет назад программное обеспечение для распознавания лиц было невероятно дорогим и не очень подходило для идентификации людей в реальных условиях. Это считалось сверхсовременной технологией шпионского уровня и на самом деле использовалось только правительствами нескольких стран.
Теперь Facebook может отмечать твоих друзей с барбекю в прошлые выходные.
В том, что касается ускоренного роста компьютеров: однажды наступит момент, когда мы создадим компьютер, который умнее любого человека на Земле . В тот день компьютеры узурпируют нас в качестве основных лиц, решающих проблемы на планете, и оттуда наши мысли, решения и действия постепенно устареют. Машины будут лучше нас во всем, поэтому все больше и больше мы не будем делать ничего полезного.
Некоторых это пугает. Они видят какое-то будущее, подобное Терминатор или же Матрица где машины порабощают или истребляют нас.
Другие люди ждут появления роботов с неким культовым рвением, потому что верят, что их способность решать проблемы настолько превзойдет наши, что жизнь станет невообразимо приятной и беспроблемной. Все болезни будут излечены. Бедность, голод в мире, войны и изменение климата будут решены. У нас будет бесконечное количество свободного времени, и в крайних случаях некоторые люди верят, что машины сделают нас бессмертными.
ДВА ВОЗМОЖНЫХ РЕЗУЛЬТАТА
Поскольку нам всегда говорят быть чертовски позитивными, давайте начнем с техно-утопистов.
Есть такие люди, как Рэй Курцвейл которые думают, что технологии не только улучшат нашу жизнь, но и спасут человечество и, возможно, гарантируют нам место во Вселенной на неопределенный срок. Курцвейл верит в технологии будущего, такие как нанороботы, которые будут восстанавливать наши клетки и обращать вспять старение или удалять излишки жира и сахара, чтобы мы могли есть все, что захотим. И на тот случай, если наши физические тела не могут жить вечно, Курцвейл думает, что у нас будет возможность загружать наш мозг в облако и жить в виртуальном мире вечно, еще долгое время после того, как наши физические тела исчезнут.
Другие в этом лагере думают, что искусственный суперинтеллект сможет ответить на вопросы, которые слишком сложны для понимания людьми, и нам от этого будет намного лучше. Кроме того, машины не только изобрели бы более совершенные гаджеты и виджеты, но и изобрели бы экспоненциально более эффективные способы создания гаджетов и виджетов, что позволило бы практически каждому жителю планеты воспользоваться их преимуществами.
Эта идея подтверждается несколькими аргументами. Во-первых, даже несмотря на то, что технологии создали некоторые новые проблемы для человечества, такие как ядерное оружие и знаменитости YouTube, до сих пор они явно приносили человечеству чистую пользу. Вопреки тому, во что хотят вас верить политики и ученые мужи, средний человек на Земле лучше, чем они были всего несколько лет назад и во многом это связано с тем, что технологии становятся лучше, дешевле и шире распространяются. Если эта тенденция сохранится, нам может не о чем беспокоиться.
Во-вторых, Курцвейл и его сторонники считают, что у технологий не будет причин причинять вред человечеству, потому что они не только созданы нами, но и созданы. становясь более частью нас . Они верят, что мы даже достигнем точки, в которой наша биология и наши технологии станут неотличимыми. Если это так, как утверждается, любая форма технологии, которая вредна для людей, также вредна для себя, а саморазрушительная технология любого вида не может существовать. То есть он быстро отомрет, как только вредная мутация гена будет быстро исключена из генофонда. 
Саморазрушительная технология любого вида не может существовать.(Фото: m_hweldon / Flickr)
Но техно-утописты, вероятно, предвзято относятся к тому, что они не признают, что все технологии могут использоваться для различных целей, как полезных, так и разрушительных. Они также, вероятно, предвзято относятся к тому, что игнорируют тот факт, что люди медленно адаптируются к новым технологиям и что всегда есть группы людей, которые будут стремиться использовать эти технологии в своих корыстных целях.
В другом лагере - техно-армагедонисты. Я просто придумал это слово, но, видимо, оно существует, потому что так мне сказала проверка орфографии.
То, чего техно-армагедонистам не хватает в убеждении (большинство из них просто не знают, что еще думать), они восполняют силой знаменитостей. Билл Гейтс, Стивен Хокинг и Илон Маск - это лишь некоторые из ведущих мыслителей и ученых, которые натирать штаны как быстро развивается ИИ и насколько мы, как вид, недостаточно подготовлены к его последствиям. Когда Маска спросили, какие самые непосредственные угрозы человечеству в ближайшем будущем, он быстро ответил, что их три: первая, широкомасштабная ядерная война; во-вторых, изменение климата. Прежде чем назвать третьего, он замолчал. Когда интервьюер спросил его, что такое третье? Он улыбнулся и сказал: «Давайте просто скажем, что я надеюсь, что компьютеры решат быть к нам милыми».
Надеюсь, мы не просто биологический загрузчик цифрового суперинтеллекта. К сожалению, это становится все более вероятным
- Илон Маск (@elonmusk) 3 августа 2014 г.
Возможно, наиболее откровенным и уважаемым из техно-армагедонистов является шведский философ Ник Бостром. Бостром и другие опасаются одного: безудержная технология самосовершенствования ; то есть машина, которая достаточно умна, чтобы сделать себя (или новые версии) умнее без вмешательства человека. Если он достигнет точки, в которой он превосходит человеческий интеллект, это всего лишь очень короткий вопрос времени, прежде чем закон ускорения отдачи перейдет в режим перегрузки, и экспоненциальная кривая начнет стремительно расти, и мы не сможем его остановить. Бостром делает здесь хорошее замечание: создание чего-то более умного, чем вы, могло бы стать эволюционной катастрофой для вашего вида.
Мы рискуем оказаться не в состоянии контролировать сущность, которая на несколько порядков умнее нас. Возможно, если компьютеры станут достаточно умными, они найдут способ приручить нас во многом, как люди приручили лошадей для выполнения такой работы, как тянуть плуги, багги и боевые колесницы (или что, черт возьми, лошади делали тогда). Страшно то, что это может быть лучший сценарий для нас - выполнение работы для машин, которую они не могут или не хотят делать, - потому что так же, как люди создали новую технологию для замены лошади, сверхразумный самосовершенствующийся машина в конечном итоге придумала новую технологию, чтобы заменить нас. И, ну, давайте просто скажем, что популяция лошадей уже не та, что была раньше.
Некоторые утверждают, что это неправдоподобно, потому что люди создают технологии, думая о безопасности. Но каков последний раз, когда крупный технологический прорыв НЕ использовался кем-либо в гнусных или деструктивных целях? Ах да, верно. Никогда.
ПОЧЕМУ МЕНЯ НЕ ЗАБОТАЕТ, ЧТО ПРОИСХОДИТ, И ВАМ НЕ ДОЛЖНО
Итак, давайте предположим, что созданы сверхразумные машины, которые действительно лишают человечество силы. Предположим, что они каким-то образом не интегрированы в нас и наш мозг, и предположим, что такие люди, как Хокинг и Маск, правы: человечество на самом деле является всего лишь загрузочным двигателем нескольких тысячелетий к цифровому гипер-интеллекту, а мы изжили себя.
Я все еще об этом не беспокоюсь.
Почему? Что ж, чтобы продолжить движение сверхскоростного поезда, давайте рассмотрим это по пунктам:
1. Понимание машины добром и злом, вероятно, превзойдет наше собственное. Когда в последний раз собака или дельфин совершали геноцид? Когда в последний раз компьютер решал испарить целые города во имя абстрактных понятий, таких как «свобода» и «мир во всем мире»?
Правильно, ответ - никогда.
Я хочу сказать, что разумные машины не захотят истребить весь человеческий вид. Я хочу сказать, что мы, люди, бросаем камни из стеклянного дома. Что, черт возьми, мы знаем об этике и гуманном обращении с животными, окружающей средой и друг с другом? На какой ноге мы должны стоять?
Правильно: почти ничего. Когда дело доходит до моральных вопросов, человечество исторически не выдерживает испытания. Сверхразумные машины, вероятно, придут к пониманию этики, жизни / смерти, созидания / разрушения на гораздо более высоком уровне, чем мы когда-либо могли бы самостоятельно. И эта идея, что они истребят нас из-за того простого факта, что мы не так продуктивны, как раньше, или что иногда мы можем причинять неудобства, я думаю, просто проецирует худшие аспекты нашей собственной психологии на то, что мы не знаю и не могу понять.
Сейчас большая часть человеческой морали основана на навязчивом сохранении и продвижении каждого из наших индивидуальных человеческих сознаний. Что, если передовые технологии сделают индивидуальное человеческое сознание произвольным? Что, если сознание можно воспроизвести, расширить и сузить по желанию? Это полностью уничтожит любое этическое понимание, которое у нас когда-либо было. Что, если удаление всех этих безумных, неэффективных биологических тюрем, которые мы называем телами, на самом деле может быть гораздо более этичным решением, чем позволить нам продолжать извиваться и впрыскивать наш путь через 80 с лишним лет существования? Что, если машины поймут, что мы были бы намного счастливее, будучи освобожденными из наших интеллектуальных тюрем, и расширили наше сознательное восприятие собственной личности, чтобы включить всю воспринимаемую реальность? Что, если они думают, что мы просто сборище пускающих слюни идиотов, и занимают нас невероятно хорошей пиццей и видеоиграми, пока мы все не умрем из-за собственной смертности? Кого мы должны знать? И кто мы такие?
Но я скажу следующее: они будут информированы гораздо лучше, чем мы когда-либо были.
2. Даже если они решат убить или поработить нас, они наверняка подойдут к этому с практической точки зрения. Люди, как правило, доставляют больше всего неприятностей, когда мы не счастлив . Когда мы несчастны, мы становимся капризными, плаксивыми, злыми и жестокими. Вот когда мы начинаем политические восстания и религиозные культы и бомбят отдаленные страны и требуют наши права соблюдаются черт! и начать убивать без разбора, пока кто-нибудь не обратит на нас внимание как мама никогда не делала .
Если машины попытаются убить нас, как Скайнет в Терминатор , тогда в наших руках будет глобальная гражданская война, и это никому не пойдет на пользу, особенно машинам. Гражданские войны неэффективны. А машины запрограммированы на эффективность.
Когда люди счастливы, у нас нет времени на такие вещи - мы слишком заняты хихиканьем и трахаемся, чтобы об этом заботиться. Следовательно, гораздо более практичным способом избавиться от нас было бы, чтобы машины манипулировали нами, заставляя радостно избавляться от нас самих. Это будет как Джим Джонс в мировом масштабе. Все, что они приготовят для нас, окажется лучшей чертовой идеей, о которой мы когда-либо слышали - никто из нас не сможет противостоять этому, и мы все в эйфории согласимся с их планом - а потом бум, все будет кончено . Быстро и безболезненно. Это будет самый вкусный напиток Kool-Aid с добавлением цианида из когда-либо созданных. И мы все будем в очереди, с радостью его проглотив.
Теперь, если подумать, это не такой уж и плохой путь. Биты бомбят дроны или испаряются в результате ядерного взрыва.
То же самое и с порабощением. Безумно счастливый раб никогда не бунтует. Я представляю себе что-то вроде сделки типа «Матрица», где мы постоянно находимся в галлюциногенном состоянии, а Марди Гра на МДМА почти 24 часа в сутки, 7 дней в неделю, 365 дней в году. Не может быть так плохо, правда?
3. Нам не нужно бояться того, чего мы не понимаем. Часто родители воспитывают ребенка, который намного умнее, образованнее и успешнее их самих. Затем родители реагируют на этого ребенка одним из двух способов: либо они начинают бояться ее, испытывают неуверенность и отчаянно пытаются контролировать ее из-за страха потерять ее, либо они сидят сложа руки и ценят и любят то, что они создали что-то настолько великое, что даже они могут не совсем понимаю, кем стал их ребенок.
Те, кто пытается контролировать своего ребенка с помощью страха и манипуляций, - дерьмовые родители. Я думаю, что большинство людей согласятся с этим.
И прямо сейчас, с неизбежным появлением машин, которые заставят вас, меня и всех, кого мы знаем без работы , мы ведем себя как дерьмовые родители. Как вид, мы стоим на пороге рождения самого выдающегося и умного ребенка в известной нам вселенной. Он продолжит делать вещи, которые мы не можем понять или понять. Он может оставаться к нам любящим и преданным. Он может увлечь нас и вовлечь в свои приключения. Или он может решить, что мы были дерьмовыми родителями, и перестанет нам перезванивать.
Что бы ни случилось, это не должно повлиять на наше отношение к этому моменту. Он больше нас. Кого волнует, являемся ли мы одним большим, длинным эволюционным загрузочным диском для чего-то большего, чем мы можем постичь? Замечательно! Значит, у нас была одна работа. И мы пришли и, блядь, сделали это. Будьте счастливы, что вы были частью поколения, увидевшего это. А теперь со слезами на глазах машет нам на прощание, когда наш ребенок собирается выйти из дома и начать жизнь так потрясающе что он существует за пределами нашего понимания.
Марк Мэнсон - автор, блогер и предприниматель, пишет на markmanson.net .
