Красивое слово «сингулярность». Услышала про него на Women's Leadership Forum, решила почитать и

Ну что, ребят, нам пиздец тема – огонь.

Сингулярность

Сингулярность – момент, когда компьютеры станут умнее нас.

По прогнозам, где-то к 2050 году плюс-минус.

И это не страшилки писателей-фантастов, это мнение технического директора Google, Рэя Курцвейла. Того самого Google, который вам тексты переводит и подсовывает контекстную рекламу. Того самого Google, который разрабатывает искусственный интеллект.

И разрабатывает его не только Google. Искусственный интеллект – ядерная энергия нашего века. Кто первый изобретет, может поменять весь мировой расклад (или уничтожить мир к той самой матери). Бизнес финансирует, потому что жаждет увеличения прибыли – за счет увеличения скорости операций (биржевые сделки) или за счет предсказания потребительского поведения (ищите кейс Target Inc., использующей программу, предсказывающую беременность покупательниц). Государства финансируют, потому что боевые роботы, дележ мировой арены, захват мира. Ученые с маниакальным энтузиазмом ищут способы вылечить все болезни и решить проблему голода.

Искусственный мозг: как?

Разные команды работают, придумывают, запускают и тестируют. Самое забавное – для меня – в том, что люди до сих пор не знают, как работает их собственный мозг. А уже пытаются создать искусственный!

ВЕРСИЯ: Пару слов о человеческом мозге. Вы ведь понимаете, что это наименее изученный и понятный орган человеческого тела? Ведь как развивалась медицина: трупы резали, изучали кости, мышцы, сухожилия. Уличные драки и войны были тоже очень кстати: опять-таки конечности в разные стороны, тут пришьем, ого! Заработало, надо записать… С мозгом такие штуки не прокатывали. Немного мешало то, что если его просто из черепушки достать, то это мало что даст. Ну вес, ну объем, ну цвет. А как он это все делает-то? Маму от папы отличает, конфетку на вкус, кошку погладить, на столе пьяным станцевать? Изучение работы мозга проходило по принципу «повезло». «Повезло», что попались пациенты со странным поведением (типа пациент забывает все из настоящего, но помнит все, что было 15 лет назад). И стали изучать, какая область мозга за что отвечает. Потом еще придумали приборы. Но эти приборы все равно только активность определенных областей мозга видят, и всё.

Мозг вообще удивительный орган. Вот вы знаете, что он делает, когда мы спим? Он ведь не спит. Он просто «выключает» тело на какое-то количество часов, просто чтобы не отвлекаться на поддерживание тела в активной фазе. Но сам мозг не отключается. Сны смотрит, информацию перерабатывает и… И что еще он делает? А если еще вспомнить о концепции коллективного бессознательного (или ноосферы), то… у меня вообще возникла версия, что мозг просто вынужден «работать» в таких несовершенных структурах как человеческое тело. Да еще и тратить свою энергию на поддержание этого тела в живом состоянии. Похоже на то, что мозг просто к нам «подсажен», а сам является частью некоего коллективного целого, которое стремится к объединению. И вот разработка искусственного интеллекта – это лучшее, о чем мог бы мечтать мозг-узник в наших черепных коробках. Выход за пределы тел, максимальная оптимизация, наращивание мощи, красота.

Одни ученые изучают человеческий мозг и пытаются на этой базе сконструировать искусственный (путь обратного проектирования). (Немного пугают меня эти ребята. Параноидально подозреваю, что ставят опыты на заключенных или создают секретные лаборатории, где режут мозги. Человеческие. И изучают. No pain no gain.)

Другие же заявляют, что человеческий мозг по конструкции не оптимален и можно сделать лучше. Вообще, типа, когда человек захотел летать, он не занимался обратным проектированием птицы. Он понаблюдал, поэкспериментировал и изобрел (когнитивный подход).

Это о методах. Теперь пару слов о

целях и видении будущего.

Давай поговорим о нашем будущем

Одни футуристы рисуют в фантазиях технологичный рай – без болезней и смертей, без голода и проблем; где роботы – наши помощники, а люди живут вечно.

Вот, например, мультик с няшным будущим:

Другие же специалисты представляют апокалипсис, серую слизь и завоевание космоса машинами.

Воу-воу, почему так мрачно?

А потому что разрабатывают машины, которые учатся самостоятельно (!), сами корректируют свои программы (!!), некоторые алгоритмы уже сейчас непонятны людям (принцип черного ящика), и после точки сингулярности (когда компьютер станет умнее человека) искусственный интеллект станет «умнее» человека в два раза, в десять, сто, 10000 буквально за пару минут.

То есть человеческая раса, считающаяся самой разумной на планете Земля, окажется не самой. И как к человечеству отнесется машинный сверхразум? Как мы к муравьям?

Вот, например, не няшный а вполне себе трешовый и ржачный мультик «Рик и Морти». Посмотрите на поведение собак, получивших сверхразум (2 серия 1 сезона, с 16-й минуты) . И это вам далеко не «Собачье сердце».

http://clipiki.ru/video/249906/Rik-i-Morti--Rick-and-Morty-1-sezon-2-seriya-Syienduk

Выключить эту «сверхмашину» будет нельзя, потому что она уже будет осознавать себя и будет сопротивляться «смерти» (именно так она будет воспринимать отключение). Так как такие программы пишутся с целью эффективного достижения задач, она будет стремиться к обеспечению своей устойчивой «жизни». Будет создавать множественные копии себя (хотя глядя на однотипных пучегубых и пышнозадых в инстаграме закрадывается подозрение, что определенные тесты в этой области уже проводятся).

Но самое страшное: эта сверхмашина будет потреблять любой доступный ресурс. Включая атомы, из которых состоят наши тела.

И вся планета превратится в серую слизь.

Бррр. Ух. Вот фантазёры.

Посмеялись сейчас наверное? Какие роботы, какая серая слизь, если iPhone разряжается через три часа? Когда еще этот 2050-й год? Компьютеры вообще зависают, а яндекс-пробки врут. Можно не бояться.

Или – хорошо бы знать, когда можно начинать бояться.

Начинать бояться

Тест Тьюринга. Считается, что мощный рывок в развитии искусственного интеллекта произойдет после того, как машина пройдет тест Тьюринга.

Прогнозирует, что это произойдет в 2029 году. Но скажу вам на это, что

Это ближе, чем кажется

Да, компьютер DeepBlue победил Гарри Каспарова в шахматах в далеком 1997 году, но ведь это математически высчитываемая игра. А в 2011 году компьютер IBM Watson победил в телевикторине «Своя игра», где нужно было не только распознавать текст, но и оперировать энциклопедическими знаниями, улавливать контекст и понимать юмор.

Машины уже пишут музыку и тексты, которые не отличить от того, что пишут люди! В 2012 году Лондонский симфонический оркестр исполнил «Переходы – в бездну», написанное программой Iamus, и критики не поняли, что это произведение написано машиной. Программа Quill пишет спортивные новости и новости бизнеса, генерируя материалы приблизительно каждые 30 секунд, и печатает их Forbes.

Вы когда последний раз говорили с Siri? Переводили с переводчиком Google? Смотрели пробки? А контекстная реклама вас уже немного начинает раздражать, да?

Вы осознаёте, КАК серьезно продвинулась технология, если машина может распознавать ваш голос? Проводить анализ текста? Выдавать искомый результат?

Это быстрее, чем думается

Эффективность компьютеров в решении задач растет феноменальными темпами. И когда я говорю «феноменальными», я имею в виду в 43 миллиона (!!!!) раз, если сравнивать 1982 год с 2003-м.

Так что есть все шансы изобретения сверхразума. И понятно, что никто не может сказать, чем это для человечества обернётся. Ведь мы же для предсказания свой человеческий умишко используем.

Но если пофантазировать

Представьте, что лично вы обладает сверхразумом. Окей, вы всегда считали себя умнее других, но СВЕРХразум.

Как вы будете относиться к остальным? К простейшим?

Какую вы предпочтете форму? Вот мне, например, кажется, что человеческое тело - крайне неудобная форма. Слишком часто ломается, требует сна, портится со временем.

Будут ли вас заботить проблемы обычных людей при решении задачи? Ну, к примеру, вы жучков спрашиваете, строить дачу или нет? Задумаетесь ли вы о сохранении бабочек-цветочков? Ведь у вас не будет кожи, чтобы почувствовать дуновение ветра. Нужны ли вам будут эти города, дороги, птички? Младенцы? Цель, эффективность, атомы. Будет ли у вас представление о красоте? Или цель, эффективность, атомы? Серая слизь.

И вечная жизнь.

Вот некоторые мыслители и ратуют за встраивание нравственных принципов в искусственный интеллект. Представление о красоте, возможно. Представления о плохом и хорошем (где явно убивать человека нехорошо, например). Говорят, притормозите разработки, давайте обсудим возможные последствия. А то что машина делает в своем «черном ящике»?

А гики упоённо творят. Называют искусственный разум deus ex-machina, богом из машины, и считают, что человек обязан изобрести сверхинтеллект, что это новая эволюционная ступень. Спасение, райская жизнь.

Но как же, как же можно делать супер-машину? Страшно! А вдруг она против тебя пойдет?

Хотя ты делаешь её по своему образу и подобию.

Чувствуете, к чему это я?

Искусственный разум – это не бог из машины. Это скорее – человек. Для которого мы выступаем богом. Создателем. И очень хотим, что наше создание соблюдало определенные заповеди.

Ага-ага. Прямо как мы.

Соблюдаем заповеди. Не убий, не укради.

Как думаете, сверхразумная машина убила бы Тьюринга? Человека, который взломал «Энигму»?

Вот люди, например, убили. Гомосексуализм, позор, принудительная гормональная терапия, отстранение от проектов, самоубийство.

Тьюринг придумал тест на «человечность» машины, а этот тест на человечность не прошли сами «человеки».

Что там насчет нравственных принципов? Заложить в машинный сверхразум человеческие нравственные ориентиры, наш «черный ящик»? Педофилию, расизм, концлагеря, подделку лекарств, смерть молодых солдат, кражу бюджетных средств?

Красивая смерть, а? Ироничная и кармическая. Умереть от своего прототипа, от масштабированной Тени. Непонятным, но уж точно самым страшным способом. Апокалипсис своими руками. Обратное проектирование человеческой нравственности.

Красиво.

Страшно.

Хотя так человечеству и надо.