Знаменитый немецкий физик Макс Планк очень точно сказал, что прогресс науки идет от похорон к похоронам. Он имел в виду, что только тогда, когда старое поколение уйдет, есть шанс, что новые теории вытеснят старые, причем это касается не только науки.

Через 200 лет состоятельные люди смогут позволить себе слиться с техникой, такой как компьютеры и смартфоны, и стать киборгами. Такое мнение высказал профессор Еврейского университета в Иерусалиме, автор книги по истории человечества Юваль Ной Харари.

По его словам, слияние человека и машины станет самым большим эволюционным скачком в биологии с момента зарождения жизни четыре миллиарда лет назад.

Профессор Харари считает, что человечество эволюционирует и уподобится богам, имеющим власть над смертью, и будет отличаться от современных людей так же, как мы отличаемся от шимпанзе.

Он утверждает, что главной движущей силой человечества является неудовлетворенность, поэтому мы не сможем удержаться от искушения «модернизировать» себя с помощью генной инженерии или высоких технологий.

Однако он предупредил, что технология превращения в киборгов будет доступна лишь состоятельным людям, что увеличит разрыв между богатыми и бедными в обществе. В будущем богатые смогут жить вечно, а бедные по-прежнему будут умирать.

Профессор Харари считает, что люди стали доминирующим видом, потому что они способны придумывать «фикции», которые скрепляют общество, такие как религия, деньги и идея прав человека, которые не имеют под собой биологического основания.

«Наше воображение позволяет людям легко сотрудничать и существовать в больших обществах. Большинство правовых систем основаны на правах человека, которые мы просто придумали. Деньги – наиболее показательный пример. Банкиры и министры финансов убеждают нас, что деньги чего-то стоят. Это не так. Попробуйте дать деньги шимпанзе и убедитесь в этом», – подчеркнул он.

Среди книг, которые поразили Марка Цукерберга больше всего, была как раз книга Харари "Sapiens: Краткая история человечества".

Сразу после публикации она стала международным бестселлером, переведенным на 30 языков.

Рекомендуя книгу к обязательному прочтению, Цукерберг говорит, что Харари представил уникальное исследование становления человеческой цивилизации и сделал весьма реалистичные прогнозы относительно ее дальнейшего развития.

Эти идеи автор развил также в своем последующем бестселлере "История завтра".

О том, как люди победят смерть и к чему это в итоге приведет, Ювал Харари рассказал в эксклюзивном интервью еще в 2015 году.

Ювал, когда, на ваш взгляд, разработают реальную методику по значительному продлению жизни? Что может приблизить бессмертие?

Ю. Х. Уверен, что в предстоящие лет 10 мы добьемся значительного увеличения продолжительности жизни, но бессмертие - пока вопрос далекого будущего. За последние 100 лет мы стали жить вдвое дольше: в средневековой Европе или Римской империи люди умирали максимум в 40 лет от недоедания, инфекционных заболеваний и пр. С тех пор медицина шагнула далеко вперед, позволяя протянуть до 80. Но, чтобы добиться реальных результатов, нужны радикальные меры. Даже если мы сейчас преодолеем рак, диабет и другие смертельные заболевания нашего времени, это позволит продлить жизнь до 90 лет, но никак не до 150-ти.  Когда ученые найдут способ дожить до 150, эту технологию можно будет немного доработать и достигнуть 1000 лет. Все идет к тому, что в предстоящие 200 лет с помощью биологических манипуляций, генной инженерии, киборгизации мы станем расой бессмертных. Разница между людьми будущего и нынешними людьми будет сопоставима с той разницей, которая сейчас существует между человеком и шимпанзе.

Есть ли какие-либо секретные проекты в этой сфере, если да, то кто над ними работает?

Ю. Х. Существует несколько гигантов Кремниевой долины, таких как Google, которые открыто заговорили о бессмертии и вкладывают немалые деньги в такие разработки. Пару лет назад влиятельный журнал Time вышел с эпатажной надписью на обложке: "Сможет ли Google победить старение?" В статье говорилось о новом стартапе поискового гиганта - компании Calico. Целью ее создания было радикальное увеличение продолжительности жизни человека и достижение бессмертия. Все это звучало бы слишком нереально, если бы за этим не стояла такая солидная компания, как Google. Потом страсти вокруг Calico поутихли, но, скорее всего, поисковик эксперименты продолжает, просто не афишируя этого. Наверняка есть подобные секретные государственные проекты в таких странах, как Китай, но большинство из них не разглашается.

У каких стран есть наибольшие шансы создать технологию бессмертия?   

    Когда человек будет жить до 150 лет, период получения знаний существенно продлится.. Люди будут гораздо дольше в карьере и им придется постоянно доказывать свою профпригодность.

Ю. Х. В странах с наибольшими достижениями в области биотехнологий и генной инженерии, таких как США, Япония, Китай, ряд стран Западной Европы. Они добились невероятных успехов по выращиванию искусственных органов, а также в сфере генной инженерии. Это уже не искусственный отбор, которым люди занимались с начала аграрной революции. Искусственный отбор был ограничен исходным генофондом существующих организмов, но генная инженерия открывает возможность создавать совершенно новые. Смешивая генный материал неродственных друг другу видов и даже создавая новые искусственные гены, можно получить совершенно невероятный результат. К примеру, генетики ухитрились не только вшестеро продлить жизнь червя, но и вывести гениальную мышь с улучшенной памятью и способностью к обучению. Уникальный эксперимент - генетически модифицированные преданные грызуны. Большинство полевок неразборчивы в половых связях. Но есть одна разновидность, у которой парочки пребывают в прочных отношениях. Генетики уверяют, что сумели выделить ген моногамности. Если добавить его обычной полевке-самцу, грызун превращается из донжуана в верного и любящего супруга. Точно так же можно генетически корректировать личные склонности человека, что кардинально изменит социум.

Если генная инженерия способна создавать гениев, почему такие технологии до сих пор не применяются на людях?

Ю. Х. От производства сверхчеловека нас отделяет отнюдь не технологическая пропасть, а препятствия этического и политического характера, которые тормозят эксперименты на людях. Но сколь бы убедительны ни были этические возражения, едва ли они смогут надолго задержать следующую стадию исследований: ведь на кону исцеление смертельных болезней, развитие когнитивных способностей, вечная жизнь. Если манипуляции с генами нас не убьют, homo sapiens изменятся до неузнаваемости, и это уже будут не homo sapiens, а совершенно новая раса.

Согласно вашей теории технологии бессмертия будут использоваться лишь сливками общества. Каковы социально-экономические предпосылки для этого и что ожидает остальных?

Ю. Х. Когда миллиардные инвестиции в биотехнологии приведут к созданию эликсира бессмертия, перед человечеством встанет вопрос: сделать его доступным всем желающим или же отдать только богатым, которые смогут за это хорошо заплатить? В XX веке вакцинация и антибиотики позволили значительно сократить смертность, навсегда избавиться от многих болезней, и развитые страны охотно делились с бедными государствами своими медицинскими достижениями. Но это исключительный случай в истории, а нормой как раз нужно считать иерархию и неравенство. В XX веке у наций и обществ были экономические, военные и политические причины инвестировать в здоровье всего человечества - сильным странам нужны были здоровые солдаты, сильные работники на фабриках, мощные пахари. Но сейчас в войнах участвуют дроны, а на заводах место людей все чаще занимают роботы, и значит, нет смысла лечить всех. Очевидно, что продлевающая жизнь технология станет дорогим удовольствием, и вряд ли те, у кого она будет, захотят ею делиться.

То есть, с развитием технологий люди обесцениваются?

Ю. Х. Так и есть! Посмотрите вокруг: техника заменяет не только простую ручную работу людей, но проникает и в "когнитивные сферы" вроде  вождения такси, торговли на фондовой бирже, диагностики заболеваний. Обычные люди стремительно теряют свое экономическое значение, и постепенно формируется класс, которому доступно гораздо больше, чем всем остальным. Обладатели денег и технологий заинтересованы в постоянном повышении своих возможностей, а не в лечении бедных, в которых нет смысла вкладываться. Думаю, особенно ярко это классовое различие проявляется в таких развивающихся странах, как Индия, Китай, Россия или Бразилия. Элита получает здесь доступ к наилучшему медицинскому сервису, наилучшему образованию, а также наилучшим автомобилям, жилью и т. п. В этом смысле те же россияне ничем не хуже, чем элита развитых стран. Проблема в том, что обычные граждане, как правило, не могут рассчитывать на качественное лечение, обучение и пр. С развитием технологий неравенство станет принимать все более жесткие формы, инвестировать будут лишь в солдат и рабочих, причем до тех пор, пока их не заменит техника.

Каким образом продление жизни изменит социальный уклад, как это отразится на мировой политике и глобальных экономических раскладах?

Ю. Х. Безусловно, продление человеческой жизни приведет к серьезным социальным, экономическим и культурным преобразованиям. Для описания всех последствий нужна отдельная книга, приведу лишь два примера. Допустим, если в ближайшие пару десятилетий люди будут жить до 150 лет, это в корне изменит семейные отношения. Сейчас, вступая в брак, мужчина и женщина все еще надеются прожить вмести "пока смерть не разлучит". Теперь представьте женщину, которая живет 150 лет. Допустим, она вышла замуж даже в 50, и впереди у нее еще 100 лет. Высоки ли шансы, что она проживет их с одним супругом? Так что нынешняя тенденция серийных браков, скорее всего, усугубится. Без сомнения, произойдет революция на рынке труда. Сегодня мы учимся до 20-25 лет, а потом совершенствуемся в профессии. Разумеется, можно чему-то учиться в 40 и в 50 лет, но жизнь делят на учебный и следующий за ним рабочий период.

Когда человек будет жить до 150 лет, период получения знаний существенно продлится, особенно если принимать во внимание грядущую глобальную технологическую революцию. Люди будут гораздо дольше в карьере и им придется постоянно доказывать свою профпригодность. В то же время они не будут уходить на пенсию, освобождая место новому поколению с его новаторскими идеями и стремлениями. Знаменитый немецкий физик Макс Планк очень точно сказал, что прогресс науки идет от похорон к похоронам. Он имел в виду, что только тогда, когда старое поколение уйдет, есть шанс, что новые теории вытеснят старые, причем это касается не только науки. Теперь подумайте о своем собственном рабочем месте. Независимо от того, являетесь ли вы ученым, журналистом, поваром или футболистом - как бы вы себя чувствовали, если бы вашему боссу было 120 лет, его идеи возникли где-то в конце 19 века, и он, скорее всего, задержится в компании еще на пару десятков лет?

В вашей книге "Sapiens: Краткая история человечества" вы говорите о том, что со временем люди становятся менее счастливыми. С чем это связано и как себя будут чувствовать люди в эпоху бессмертия?

Ю. Х. Я не говорил, что они становятся менее счастливыми. Я имел в виду, что они не стали более счастливыми. Хотя люди достигли успеха в обретении власти, они так и не поняли, как достичь удовлетворенности. Несмотря на все то удивительное и невероятное, на что способен человек, он остается неуверенным и недовольным. Он переходил от каноэ к катеру, к пароходу, к космическому кораблю - но все с тем же недовольным лицом. Дело в том, что ощущение "не счастья" обусловлено нашей сформированной в процессе эволюции внутренней биохимической системой, которая должна увеличивать шансы на выживание и воспроизводство. Довольный человек небдителен и ленив, тогда как несчастный постоянно "начеку" и стремится к лучшему. Вот почему человечеству удалось завоевать мир, но не удалось трансформировать все достижения, всю силу в удовлетворенность и счастье - природа не позволяет. С увеличением продолжительности жизни эта проблема только усугубится.

Люди больше не пишут программы. С тех пор как нейронные сети научились распознавать речь, программист больше не может просто так войти и посмотреть, как это получилось. Это как заглянуть в собственный мозг. Вы же не можете отрезать себе голову и посмотреть, о чем вы там думаете.

С расцветом машинного обучения программисты пишут все меньше традиционного кода — теперь машины учатся действовать самостоятельно. Скоро необходимость писать для них инструкции в виде кода и вовсе отпадет — любой человек сможет научить свой гаджет чему угодно так же легко, как он учит собаку прыгать через барьер. Возможно, программисты, которые сегодня так востребованы, вскоре станут никому не нужны. Но как глубокое машинное обучение повлияет на мир, в котором мы живем — что если машины выйдут из-под контроля? Ответить на эти и другие вопросы попытался редактор Wired Джейсон Танц.

Еще до изобретения компьютеров многие экспериментальные психологи считали человеческий мозг тайной, покрытой мраком — эдаким черным ящиком. Вы могли анализировать чье-то поведение — позвонить в звонок и наблюдать, как у собаки выделяется слюна — но мысли, воспоминания, эмоции… Эти вещи оставались неисповедимы и за гранью науки. Посему бихевиористы, как они сами себя называли, ограничивались изучением стимулов и реакций, обратной связи и подкреплений, колокольчиков и слюны. Они отчаялись изучить внутренний механизм разума. И так прошли четыре десятилетия.

Потом в 1950-х года группа мятежных исследователей в сферах психологии, лингвистики, теории информации и зарождающегося искусственного интеллекта предоставили другую концепцию разума. Они утверждали, что люди — не просто коллекции условных рефлексов. Они впитывают информацию, обрабатывают ее и действуют на основании полученных данных. У них есть системы для записи, хранения и вызова воспоминаний. Они оперируют при помощи логики и формального синтаксиса.

    Мозг — это не черный ящик. Это скорее компьютер.

Так называемая когнитивная революция начиналась с малого, но по мере того, как компьютеры начали появляться в лабораториях психологов по всей стране, она получала все больше и больше поддержки. К концу 70-х когнитивная психология свергла бихевиоризм и вместе с новой властью воцарилась в виде языка, на котором принято описывать ментальную сторону жизни. Психологи начали описывать мысли как программы, обычные люди говорили о способности запоминать факты как о биологических жестких дисках, а бизнес-гуру рассуждали об ограничениях психической пропускной способности и мощности обработки на современном рабочем месте.

Это история повторяется снова и снова. Цифровая революция не только проложила себе путь в каждый аспект нашей повседневной жизни, она просочилась в наш язык и глубокие базовые теории о том, как устроен мир. С технологиями всегда так. В эпоху просветления Ньютон и Декарт вдохновляли людей думать о Вселенной как о сложных часах. В индустриальную эру на смену часам пришли поршневые машины (вспомним идею психодинамики Фрейда, заимствованную из термодинамики паровых двигателей). Теперь — компьютеры. И если подумать, это полностью меняет дело. Потому что если мир — это компьютер, то его можно запрограммировать.

Код логичен. Код подвержен взлому. Код — это судьба. Таковы основные постулаты (и самореализующиеся пророчества) жизни в цифровую эпоху. Перефразируя венчурного инвестора Марка Андрессена: когда софт поглотил мир, мы окружили себя машинами, которые конвертируют наши действия, мысли и эмоции в данные — сырье, которым манипулируют армии инженеров. Мы дошли до того, что саму жизнь воспринимаем как серию инструкций, которые можно обнаружить, эксплуатировать, оптимизировать, возможно, переписать.

Компании используют код, чтобы понять наше самое интимное. Facebook Марка Цукерберга зашел настолько далеко, что предположил, будто существует «фундаментальный математический закон, который лежит в основе человеческих отношений, и управляет тем, о ком и о чем мы больше всего заботимся». В 2013 году Крэйг Вентер объявил, что спустя десятилетие после декодировки человеческого генома он начал писать код, который позволит ему создавать синтетические организмы. «Становится ясно, что все живые клетки на Земле — это биологические машины, управляемые ПО на основе ДНК», — заявил он.

Даже мотивационная литература настаивает на том, что мы можем взломать собственный код, перепрограммировать свою жизнь, сон и привычки.

В современном мире умение писать код стало не просто горячо желаемым навыком, но языком избранных. У них есть доступ к тому, что в еще более механизированном мире будет называться уровнями могущества. «Если вы контролируете код, вы контролируете мир», — написал футурист Марк Гудман. В Bloomberg Businessweek Пол Форд выразился несколько осмотрительнее: «Если кодеры и не правят миром, то они управляют вещами, которые правят миром».

Но независимо от того, нравится вам это или нет, являетесь ли вы членом этого элитного комьюнити или едва способны настроить собственный смартфон — не привыкайте.

    Наши машины начинают разговаривать на другом языке, который не всегда понимают даже самые лучшие кодеры.

Последние несколько лет крупнейшие компании Кремниевой Долины агрессивно продвигают новый подход в информационных технологиях под названием машинное обучение. В традиционном программировании инженер пишет исчерпывающие и точные инструкции для компьютера. С машинным обучением программисты не расшифровывают инструкции для компьютера. Они тренируют компьютеры. Например, если вы хотите научить нейронную сеть различать котиков, вы больше не говорите ему, что у кота должны быть усы, лапы, хвост. Вы просто показываете ему тысячи и тысячи фотографий котов, и в конце концов он понимает. Если же компьютер все еще путает кота и лису, вы не переписываете код. Вы продолжаете его тренировать.

Этот подход не нов — он существует десятилетиями — но недавно он стал намного более действенным, частично благодаря развитию глубоких нейронных сетей, массово распределенных вычислительных систем, которые имитируют многоуровневые соединения нейронов в головном мозге. И на сегодня, осознаете вы это или нет, машинное обучение во многом обеспечивает нашу онлайн-активность.

Facebook использует его, чтобы определять, какие истории показывать в первую очередь в хронике пользователя. Google Photos с его помощью идентифицирует лица. Машинное обучение вшито в Skype Translator, который переводит речь на разные языки в режиме реального времени. Самоуправляемые автомобили используют машинное обучение, чтобы избегать аварий. Даже поисковая система Google, которая столько лет основывалась на правилах, написанных человеком — начала полагаться на эти глубокие нейронные сети. В феврале компания заменила несменного главу поискового подразделения экспертом машинного обучения — во главе основного подразделения встал Джон Гианнандреа, который инициировал программу переквалификации инженеров под новую специфику. «Выстраивая самообучающиеся системы, мы больше не должны писать эти правила», — заявил журналистам Гианнандреа.

    Но есть одно но: с машинным обучением инженер никогда не сможет знать точно, как компьютер подойдет к выполнению задачи.

Операции нейронных систем преимущественно непрозрачны и неисповедимы. Другими словами, это и есть черный ящик. И поскольку эти черные ящики ответственны за все большее и большее число наших повседневных задач, они не только изменят наше отношение к технологиям — они изменят то, как мы думаем о себе, о мире и нашем месте в нем.

Если в старом мире программисты были богами и писали правила, по которым жил мир компьютерных систем, то сейчас они скорей как родители или как тренеры собак. Любой родитель или владелец пса вам скажет, что это куда более загадочные отношения.

Энди Рубин — заядлый ремесленник и кодер. Сосоздатель операционной системы Android, Рубин известен в Долине пристрастием окружать себя роботами как дома, так и на работе. Он программирует себя: «Я попал в компьютерные науки еще когда был совсем юн, и мне понравилось, потому что я мог раствориться в компьютерном мире. Я был чистым листом, пустым холстом, и мог создать нечто с нуля. Это предоставляло мне полный контроль над миром, в который я играл долгие долгие годы», — рассказывал он.

Теперь, по его словам, этот мир приближается к своему концу. Рубин очень взволнован развитием машинного обучения — его новая компания Playground Global инвестирует в стартапы в области машинного обучения и позиционирует себя как лидера на ниве умных устройств. Но есть тут и повод для грусти. Потому что машинное обучение меняет то, что значит быть программистом.

«Люди больше не пишут программы. С тех пор как нейронные сети научились распознавать речь, программист больше не может просто так войти и посмотреть, как это получилось. Это как заглянуть в собственный мозг. Вы же не можете отрезать себе голову и посмотреть, о чем вы там думаете», — говорит Рубин. Когда инженеры ныряют в глубокие нейронные сети, они видят океан математики: массивный, многоуровневый набор вычислительных проблем, которые — постоянно делая выводы из отношений между миллиардами точек данных — генерируют догадки о мире.

Принцип работы искусственного интеллекта задумывался не так. Еще несколько лет назад главные ИИ-исследователи предполагали, что для создания интеллекта необходимо просто внедрить в машину правильную логику. Написать достаточно правил и в конце концов создать систему, достаточно сложную, чтобы объяснить ей, как устроен мир. Они игнорировали, даже насмехались над первыми сторонниками машинного обучения, которые выступали за то, чтобы насыщать машины данными до тех пор, пока они сами не сделают выводы.

Годами компьютеры не были достаточно мощными, чтобы подтвердить или опровергнуть каждый из этих подходов, поэтому вопрос перешел в философскую плоскость. «Большинство споров были основаны на фиксированных взглядах о том, как должен быть организован мир и как работает мозг, — говорит бывший профессор Стэнфорда по искусственному интеллекту и создатель самоуправляемого автомобиля Google Себастьян Трун. — В нейронных сетях не было символов и правил, только цифры. Это отчуждало от них многих людей».

Последствия неразборчивости машинного языка не только философские. За последние 20 лет обучение программированию было самым верным путем к надежному трудоустройству — факт, который сложно отрицать, учитывая, как много родителей отдавали своих детей во всевозможные академии программирования. Но мир, который работает за счет нейронных сетей с глубоким машинным обучением нуждается в работниках другого типа.

    Аналитики уже начали переживать о том, какое влияние окажет расцвет искусственного интеллекта на рынок труда, поскольку машины делают старые навыки нерелевантными. И программисты вскоре могут почувствовать это влияние на собственной шкуре.

«Этим утром у меня был разговор на данную тему. Я указал на то, как сильно изменится работа программиста к моменту, когда все эти детишки со STEM-образованием подрастут», — говорит IT-гуру Тим О’Райлли. По его мнению, традиционный код полностью не исчезнет — нам еще долго нужны будут кодеры, но уже не в том количестве, как сейчас. Написание кода превратится в метаскилл, в некий первичный навык, который СЕО Института искусственного интеллекта Аллена Орен Этциони называет «строительным лесом» — они будут создавать основу под машинное обучение.

Также как ньютоновская физика не была вытеснена открытием квантовой механики, код останется мощным инструментарием для исследования мира. Но когда речь зайдет о специфических функциях, машинное обучение будет делать большую часть работы за нас.

Конечно, люди все еще вынуждены тренировать эти системы. На сегодня это редкое умение. Для работы в данной сфере требуются исключительные познания в математике и педагогическая интуиция. «Это почти как форма искусства, позволяющая получить лучшее из этих систем. В мире есть лишь несколько сотен людей, которые умеют делать это действительно хорошо», — говорит Дэмис Хассабис, глава команды Google DeepMind AI. Но даже такого количества исключительных специалистов оказалось достаточно, чтобы трансформировать всю технологическую индустрию за несколько лет.

Какими бы не были профессиональные последствия этого сдвига, культурные последствия будут еще больше. Если расцвет программного обеспечения, написанного человеком, привел к культу инженера и пониманию, что человеческий опыт можно выразить набором понятных инструкций, машинное обучение запускает маятник в обратном направлении. Код, на котором работает вселенная, может игнорировать человеческий анализ. Уже сейчас Google стал объектом антимонопольного расследования в Европе, в рамках которого компанию обвиняют в оказании чрезмерного влияния на результаты выдачи. Это будет трудно доказать в условиях, когда сами инженеры компании не могут точно сказать, как работает поисковой алгоритм.

Такой взрыв неопределенности назревал давно. Не секрет, что даже простые алгоритмы могут привести к непредсказуемому поведению, что отсылает нас к теории хаоса и генератору случайных чисел. За последние несколько лет, по мере того как росли и сплетались сети, а их функции становились все более сложными, код стал все больше напоминать что-то вроде инопланетной магии, привидение внутри все более неуловимой и неуправляемой машины. Самолеты, которые приземляются без причин. Неотвратимые вспышки аварий на фондовом рынке. Веерные отключения.

Все эти силы побудили технолога Данни Гиллиса объявить конец эпохи Просвещения — нашей процветающей веками веры в логику, детерминизм и контроль над природой. Гиллис говорит, что мы движемся в эпоху Запутывания. «Когда наши технологические и институционные творения стали более сложными, наше отношение к ним изменилось. Мы перестали быть хозяевами наших творений, мы научились с ними торговаться, уговаривать и направлять их на достижение наших целей. Мы построили собственные джунгли, и теперь они живут своей жизнью», — написал он в «Журнале дизайна и науки». Развитие машинного обучения — это заключительный и, может быть, последний шаг в данном путешествии.

    Все это звучит довольно пугающе. В конце концов, программирование звучало как нечто такое, чему любой желающих мог научиться на буткемпе. Программисты по крайней мере были людьми. Сегодня технологическая элита еще меньше, а ее власть над собственными творениями размыта и косвенна.

Уже сейчас компании, которые все это создали, столкнулись с трудностями в управлении поведением своих же творений. Прошлым летом Google поспешил извиниться, когда его система опознавания лиц начала определять темнокожих людей как горилл. Первым, что компания предприняла, был ламерский шаг — запретить определять что-либо как горилл, в том числе и настоящих горилл.

Под определенным углом все это указывает на то, что мы приближаемся к эпохе, в которой люди утратят контроль над машинами. «Можно представить, что такие технологии перехитрят финансовые рынки, опередят исследователей людей, переиграют человеческих лидеров и создадут оружие, которое мы не сможем даже понять. — написал Стивен Хокинг, которого сразу поддержали Элон Маск и Билл Гейтс. — В то время как в краткосрочной перспективе влияние ИИ зависит от того, кто его контролирует, в долгосрочной перспективе все зависит от того, останется ли он под контролем в принципе».

Но не пугайтесь — это не восход Скайнета. Мы просто изучаем правила работы с новой технологией. Инженеры уже работают над тем, чтобы визуализировать происходящее «внутри черепушки» обучающихся систем. Но даже если мы никогда не поймем, как мыслят эти новые машины, это не означает, что мы будем безоружны перед ними. В будущем мы не будем так сильно соотносить себя с тем, что лежит в основе их поведения — мы научимся фокусироваться на самом поведении. Код станет менее важен, чем информация, которую мы используем, чтобы их тренировать.

Если все это звучит как-то знакомо, то потому, что очень напоминает старый добрый бихевиоризм 20-го века. К слову, процесс обучения машины часто сравнивают с великим бихевиористским экспериментом в начале 20 века. Павлов исследовал условные рефлексы своей собаки не через глубокое понимание голода, а просто повторяя набор действий снова и снова. Он предоставлял данные до тех пор, пока код сам себя не воспроизвел. И говорите что хотите о бихевиористах, они точно знали, как контролировать свои объекты.

В далекоидущей перспективе, по мнению Труна, машинное обучение окажет демократизирующее влияние. Так же как вам не нужно знать HTML, чтобы построить сайт в наши дни, однажды вам не потребуется диплом, чтобы задействовать невероятную мощь глубокого обучения.

    Программирование перестанет быть подвластно обученным кодерам, которые выучили несколько таинственных языков. Оно будет доступно всем, кто хотя бы однажды научил своего пса прыгать через барьер.

«Для меня это самая крутая штука в программировании, потому что теперь любой может программировать», — говорит Трун.

В истории компьютеров мы часто сталкивались с вывернутым наизнанку пониманием того, как работают машины. Сначала мы пишем код, потом машина его выражает. Такое мировоззрение предполагает пластичность, но также предлагает нечто вроде основанного на правилах детерминизма, ощущения, что вещи являются продуктом инструкций, которые лежат в их основе. Машинное обучение предлагает противоположную точку зрения, согласно которой не только код определяет поведение, но поведение также определяет код. Машины — это продукты нашего мира.

В конечном счете мы будем ценить как силу написанного кода, так и алгоритмов машинного обучения, которые будут его настраивать. Возможно, биологи уже начали работать в этом направлении. Технологии генной инженерии вроде Crispr дают им возможность манипулировать кодом, которым орудуют традиционные программисты. Но открытия в области эпигенетики предполагают, что генетические материалы представляют собой не неизменный набор инструкций, но скорее динамический набор переключателей, которые регулируются в зависимости от условий и опыта хозяина. Наш код не существует отдельно от физического мира — мир оказывает на него глубокое влияние и трансформирует его. Вентер может верить, что клетки — это машины, управляемые ПО на основании ДНК, но эпигенетик Стив Коул предлагает другую формулировку: «Клетка — это машина для превращения опыта в биологию».

И сегодня, спустя 80 лет после того, как Алан Тьюринг набросал первый эскиз своей вычислительной машины, компьютеры превращаются в устройства по превращению опыта в технологии. Десятки лет мы искали секретный код, который мог объяснить и, с некоторыми изменениями, оптимизировать наш мировой опыт. Но наши машины вскоре перестанут работать по такому принципу — и наш мир на самом деле никогда так не работал. У нас будут более сложные, но также более плодотворные отношения с технологиями. Мы перестанем управлять нашими устройствами — мы будем воспитывать их.

Автор: журналист и редактор Джейсон Танц

Активно развиваются нанотехнологии, которые теоретически позволят сделать электроды очень маленькими. Существует концепция использования «нанопыли», — частиц, которые будут проникать в мозг и считывать активность индивидуальных нейронов, передавая данные на устройство, расположенное снаружи черепа.

Недавно группа нейрофизиологов из лаборатории профессора Медицинской школы Университета Дьюка Мигеля Николесиса (Miguel Nicolelis) продемонстрировала управление колесной платформой с помощью сигналов, полученных от электродов, имплантированных в моторную кору мозга обезьяны. Такие работы открывают перспективы создания протезов и инвалидных кресел для парализованных больных, которые смогут управлять их движением просто «силой мысли». С другой стороны, хирургическая имплантация электродов в мозг остается пугающей и опасной процедурой, способной ограничить применение этих технологий. О том, как проходили эксперименты с обезьянами и какое будущее ждет инвазивные методы регистрации активности нейронов, мы поговорили с одним из авторов работы, исследователем из Университета Дьюка Михаилом Лебедевым.

За последние годы ваша группа провела совершенно потрясающие работы с использованием микроэлектродов: расширение видимого спектра крыс подключением ИК-датчиков; управление сразу парой роборук за счет сигналов, полученных из моторной коры обезьяны; соединение мозгов двух обезьян в единое управляющее устройство... На таком ярком фоне новая работа с «мысленным» контролем над колесной платформой чем-то выделяется?

М.Л.: Выделяется, причем достаточно заметно. Дело в том, что прежде считывание сигналов с моторной коры рассматривалось только с точки зрения управления конечностью — рукой, ногой... При этом нейронные механизмы, связанные с перемещением всего тела, остаются нераскрытыми даже на фундаментальном уровне. Поэтому до самого начала экспериментов оставалось неясным, сможем ли мы в принципе, считывая сигналы управления руками и ногами, интерпретировать их с точки зрения движения всего тела. У обезьяны не было никакого рычага и других способов направлять колесную платформу — она просто представляла соответствующие движения рук и ног в пространстве.

Можно вспомнить, как обычно рисуют мозг с моторным гомункулусом: одной области соответствуют нейроны, управляющие движением руки, другой — ноги или шеи... Обратите внимание: на этой схеме нигде нет группы нейронов, которая бы соответствовала телу в целом, его перемещению в пространстве. Так как области мозга, представляющие все тело, пока не описаны, мы попробовали получить нужный сигнал из активностей нейронов, которые управляют конечностями, и на том же гомункулусе ярко выделяются.

Более того, сейчас мы готовим статью, связанную с продолжением этой истории. В новом варианте эксперимента мы скомбинировали его с подходом, который использовали раньше, в работе с «объединением» двух мозгов: одна обезьяна ездила в своей тележке, а другая сидела в углу, наблюдая за ней. Движения тележки отражались в мозге и водителя, и наблюдателя. В этом большой новости нет: известно, что движения существ, за которыми человек наблюдает, зеркалируется в активности и его собственных нейронов. Однако нам удалось объединить сигналы и «водителя», и «наблюдателя», а затем передать управление колесами итоговому, суммирующему сигналу.

Тут возникает вопрос о том, как именно выделяется нужный сигнал. Для интерпретации данных о возбуждении сотен нейронов понадобилась нейронная сеть?

М.Л.: В этой части мы решили поступить максимально просто и использовали сравнительно несложный метод выделения сигнала, фильтр Винера. Упрощенно говоря, наша модель получала данные по частоте разрядов нейронов, умножала активность каждого на определенный весовой коэффициент, суммировала и на выходе давала нужный параметр — в нашем случае, это либо скорость движения вперед-назад, либо угловая скорость, соответствующая вращению тележки вокруг вертикальной оси. Такой фильтр, конечно, нуждается в предварительном обучении, чтобы выбрать правильные коэффициенты.

На этапе обучения фильтра обезьяна не управляла тележкой, а просто каталась на ней, движения колес случайным образом задавал компьютер. С помощью наших электродов мы регистрировали активность, которая возникала в моторной коре обезьяны в ответ на разные виды движений. Фильтр Винера оценивал эту активность и в зависимости от ее величины в каждом случае присваивал два коэффициента: «вклад» нейрона в движение вперед-назад и в поворот вокруг своей оси. То есть, если нейрон активно возбуждался при таком движении, он получал большой коэффициент, если нет, то маленький.

Из опыта мы знаем, что это не очень сложная задача, и для обучения фильтра при том количестве входных данных, что мы имеем, — а это порядка 300 нейронов с двух полушарий — достаточно сеанса максимум в 10 минут. Затем мы уже можем передать управление обезьяне.

При попытке двинуться в определенную сторону ее нейроны разряжаются, эти данные снимаются и поступают в обученный фильтр, где перемножаются на нужные коэффициенты, суммируются — и мы получаем на выходе две скоростные компоненты. При этом, по мере того как обезьяна осваивает такое управление, ее мозг пластично адаптируется, выдавая все более четкий сигнал, и обезьяна быстрее добирается до награды.

Получив такой обученный фильтр, мы можем применить его на другом животном?

М.Л.: Нет, такого не получится. Имплантируя микроэлектроды, мы, конечно, попадаем в нужную область очень точно, но не с точностью до нейрона. Да и локализация нейронов у каждого животного индивидуальна. Поэтому даже одни и те же электроды у разных обезьян могут записывать разные показатели, фактически, случайным образом.

Можно добавить, что животные, которых мы использовали в экспериментах, ходят с «хронически» имплантированными электродами не первый год. Они уже участвовали во многих опытах, в основном, по управлению роботизированной рукой.

Звучит довольно брутально. Вообще, на фоне быстрого развития неинвазивных методов получения данных об активности мозга — таких как ЭЭГ или томография — не теряют ли микроэлектроды актуальности? Ведь они требуют хирургической имплантации, вскрытия черепной коробки и так далее...

М.Л.: Никоим образом. Та же ЭЭГ, по сути, какой была сто лет назад, такой и остается сегодня — прогресс в этой области заключается, в основном, в улучшении алгоритмов и средств интерпретации данных. Но в целом он по-прежнему не позволяет получать точные, высококачественные сигналы, и вряд ли это измениться в будущем. ЭЭГ данные — это всегда данные о синхронном срабатывании достаточно большого количества нейронов.

Возникает даже своего рода парадокс. Ведь когда нейроны делают что-то осмысленное — например, управляют рукой, — они разряжаются небольшими группами. А синхронная активность проявляется как раз в периоды, когда они никакой осмысленной, нужной нам для интерпретации деятельностью не занимаются. Самые масштабные синхронные срабатывания наблюдаются во сне, и ЭЭГ во сне демонстрируют самую большую амплитуду. Поэтому системы ЭЭГ работают «от обратного»: сильный сигнал означает, что субъект находится в покое, слабый — что он чем-то занят. При этом детали этого занятия совершенно ускользают.

В силу этих причин думаю, что ЭЭГ и близкие ему методы будут развиваться больше в сторону нейрореабилитации, помощи больным после инсультов и тому подобных вещей. А для более тонкого контроля, в любом случае, понадобятся инвазивные методы. Конечно, со стороны сегодня они кажутся достаточно страшными: нужно открыть череп, вставить электроды... Но, думаю, эти проблемы будут решены в ближайшие 10–20 лет.

Вспоминается недавняя работа австралийских ученых, предложивших микроэлектрод, который проникает в мозг по сосудам и «раскрывается» в нужном месте, фиксируясь и снимая активность соседних нейронов. Вы имеете в виду такие решения?

М.Л.: Это, безусловно, очень хорошая идея. Главное — что качество записи, которое дает такой подход, сравнимо с данными электрокортикографии, при которой электроды просто кладутся на поверхность мозга, но внутрь нервной ткани не вводятся, так что это достаточно безопасно. Запись «через сосуды» дает такое же разрешение, но при этом позволяет добраться и в глубинные структуры мозга, работая и в подкорковых областях. С другой стороны, конечно, возникают вопросы о том, насколько безопасно ходить с такими электродами в сосудах, не будут ли они провоцировать нарушения кровоснабжения и все подобное — это еще стоит тщательно изучить.

Нельзя забывать и о том, что активно развиваются нанотехнологии, которые теоретически позволят сделать электроды очень и очень маленькими. Существует даже концепция использования «нанопыли», — частиц, которые будут проникать в мозг и считывать активность индивидуальных нейронов, передавая эти данные на устройство, расположенное снаружи черепа. Возможностей минимизировать опасность инвазивного подхода у нас достаточно.

Роман Фишман