Скоро мы перестанем программировать компьютеры — мы будем их тренировать. Как собак

С расцветом машинного обучения программисты пишут все меньше традиционного кода — теперь машины учатся действовать самостоятельно.

Скоро необходимость писать для них инструкции в виде кода и вовсе отпадет — любой человек сможет научить свой гаджет чему угодно так же легко, как он учит собаку прыгать через барьер. Возможно, программисты, которые сегодня так востребованы, вскоре станут никому не нужны. Но как глубокое машинное обучение повлияет на мир, в котором мы живем — что если машины выйдут из-под контроля? Ответить на эти и другие вопросы попытался редактор Wired Джейсон Танц.

Еще до изобретения компьютеров многие экспериментальные психологи считали человеческий мозг тайной, покрытой мраком — эдаким черным ящиком. Вы могли анализировать чье-то поведение — позвонить в звонок и наблюдать, как у собаки выделяется слюна — но мысли, воспоминания, эмоции… Эти вещи оставались неисповедимы и за гранью науки. Посему бихевиористы, как они сами себя называли, ограничивались изучением стимулов и реакций, обратной связи и подкреплений, колокольчиков и слюны. Они отчаялись изучить внутренний механизм разума. И так прошли четыре десятилетия.
Потом в 1950-х года группа мятежных исследователей в сферах психологии, лингвистики, теории информации и зарождающегося искусственного интеллекта предоставили другую концепцию разума. Они утверждали, что люди — не просто коллекции условных рефлексов. Они впитывают информацию, обрабатывают ее и действуют на основании полученных данных. У них есть системы для записи, хранения и вызова воспоминаний. Они оперируют при помощи логики и формального синтаксиса.
Мозг — это не черный ящик. Это скорее компьютер.

Так называемая когнитивная революция начиналась с малого, но по мере того, как компьютеры начали появляться в лабораториях психологов по всей стране, она получала все больше и больше поддержки. К концу 70-х когнитивная психология свергла бихевиоризм и вместе с новой властью воцарилась в виде языка, на котором принято описывать ментальную сторону жизни. Психологи начали описывать мысли как программы, обычные люди говорили о способности запоминать факты как о биологических жестких дисках, а бизнес-гуру рассуждали об ограничениях психической пропускной способности и мощности обработки на современном рабочем месте.
Это история повторяется снова и снова. Цифровая революция не только проложила себе путь в каждый аспект нашей повседневной жизни, она просочилась в наш язык и глубокие базовые теории о том, как устроен мир. С технологиями всегда так. В эпоху просветления Ньютон и Декарт вдохновляли людей думать о Вселенной как о сложных часах. В индустриальную эру на смену часам пришли поршневые машины (вспомним идею психодинамики Фрейда, заимствованную из термодинамики паровых двигателей). Теперь — компьютеры. И если подумать, это полностью меняет дело. Потому что если мир — это компьютер, то его можно запрограммировать.
Код логичен. Код подвержен взлому. Код — это судьба. Таковы основные постулаты (и самореализующиеся пророчества) жизни в цифровую эпоху. Перефразируя венчурного инвестора Марка Андрессена: когда софт поглотил мир, мы окружили себя машинами, которые конвертируют наши действия, мысли и эмоции в данные — сырье, которым манипулируют армии инженеров. Мы дошли до того, что саму жизнь воспринимаем как серию инструкций, которые можно обнаружить, эксплуатировать, оптимизировать, возможно, переписать.
Компании используют код, чтобы понять наше самое интимное. Facebook Марка Цукерберга зашел настолько далеко, что предположил, будто существует “фундаментальный математический закон, который лежит в основе человеческих отношений, и управляет тем, о ком и о чем мы больше всего заботимся”. В 2013 году Крэйг Вентер объявил, что спустя десятилетие после декодировки человеческого генома он начал писать код, который позволит ему создавать синтетические организмы. “Становится ясно, что все живые клетки на Земле — это биологические машины, управляемые ПО на основе ДНК”, — заявил он.
Даже мотивационная литература настаивает на том, что мы можем взломать собственный код, перепрограммировать свою жизнь, сон и привычки.
В современном мире умение писать код стало не просто горячо желаемым навыком, но языком избранных. У них есть доступ к тому, что в еще более механизированном мире будет называться уровнями могущества. “Если вы контролируете код, вы контролируете мир”, — написал футурист Марк Гудман. В Bloomberg Businessweek Пол Форд выразился несколько осмотрительнее: “Если кодеры и не правят миром, то они управляют вещами, которые правят миром”.
Но независимо от того, нравится вам это или нет, являетесь ли вы членом этого элитного комьюнити или едва способны настроить собственный смартфон — не привыкайте.
Наши машины начинают разговаривать на другом языке, который не всегда понимают даже самые лучшие кодеры.

Последние несколько лет крупнейшие компании Кремниевой Долины агрессивно продвигают новый подход в информационных технологиях под названием машинное обучение. В традиционном программировании инженер пишет исчерпывающие и точные инструкции для компьютера. С машинным обучением программисты не расшифровывают инструкции для компьютера. Они тренируют компьютеры. Например, если вы хотите научить нейронную сеть различать котиков, вы больше не говорите ему, что у кота должны быть усы, лапы, хвост. Вы просто показываете ему тысячи и тысячи фотографий котов, и в конце концов он понимает. Если же компьютер все еще путает кота и лису, вы не переписываете код. Вы продолжаете его тренировать.
Этот подход не нов — он существует десятилетиями — но недавно он стал намного более действенным, частично благодаря развитию глубоких нейронных сетей, массово распределенных вычислительных систем, которые имитируют многоуровневые соединения нейронов в головном мозге. И на сегодня, осознаете вы это или нет, машинное обучение во многом обеспечивает нашу онлайн-активность.
Facebook использует его, чтобы определять, какие истории показывать в первую очередь в хронике пользователя. Google Photos с его помощью идентифицирует лица. Машинное обучение вшито в Skype Translator, который переводит речь на разные языки в режиме реального времени. Самоуправляемые автомобили используют машинное обучение, чтобы избегать аварий. Даже поисковая система Google, которая столько лет основывалась на правилах, написанных человеком — начала полагаться на эти глубокие нейронные сети. В феврале компания заменила несменного главу поискового подразделения экспертом машинного обучения — во главе основного подразделения встал Джон Гианнандреа, который инициировал программу переквалификации инженеров под новую специфику. “Выстраивая самообучающиеся системы, мы больше не должны писать эти правила”, — заявил журналистам Гианнандреа.

Но есть одно но: с машинным обучением инженер никогда не сможет знать точно, как компьютер подойдет к выполнению задачи.

Операции нейронных систем преимущественно непрозрачны и неисповедимы. Другими словами, это и есть черный ящик. И поскольку эти черные ящики ответственны за все большее и большее число наших повседневных задач, они не только изменят наше отношение к технологиям — они изменят то, как мы думаем о себе, о мире и нашем месте в нем.
Если в старом мире программисты были богами и писали правила, по которым жил мир компьютерных систем, то сейчас они скорей как родители или как тренеры собак. Любой родитель или владелец пса вам скажет, что это куда более загадочные отношения.
Энди Рубин — заядлый ремесленник и кодер. Сосоздатель операционной системы Android, Рубин известен в Долине пристрастием окружать себя роботами как дома, так и на работе. Он программирует себя: “Я попал в компьютерные науки еще когда был совсем юн, и мне понравилось, потому что я мог раствориться в компьютерном мире. Я был чистым листом, пустым холстом, и мог создать нечто с нуля. Это предоставляло мне полный контроль над миром, в который я играл долгие долгие годы”, — рассказывал он.
Теперь, по его словам, этот мир приближается к своему концу. Рубин очень взволнован развитием машинного обучения — его новая компания Playground Global инвестирует в стартапы в области машинного обучения и позиционирует себя как лидера на ниве умных устройств. Но есть тут и повод для грусти. Потому что машинное обучение меняет то, что значит быть программистом.
“Люди больше не пишут программы. С тех пор как нейронные сети научились распознавать речь, программист больше не может просто так войти и посмотреть, как это получилось. Это как заглянуть в собственный мозг. Вы же не можете отрезать себе голову и посмотреть, о чем вы там думаете”, — говорит Рубин. Когда инженеры ныряют в глубокие нейронные сети, они видят океан математики: массивный, многоуровневый набор вычислительных проблем, которые — постоянно делая выводы из отношений между миллиардами точек данных — генерируют догадки о мире.
Принцип работы искусственного интеллекта задумывался не так. Еще несколько лет назад главные ИИ-исследователи предполагали, что для создания интеллекта необходимо просто внедрить в машину правильную логику. Написать достаточно правил и в конце концов создать систему, достаточно сложную, чтобы объяснить ей, как устроен мир. Они игнорировали, даже насмехались над первыми сторонниками машинного обучения, которые выступали за то, чтобы насыщать машины данными до тех пор, пока они сами не сделают выводы.
Годами компьютеры не были достаточно мощными, чтобы подтвердить или опровергнуть каждый из этих подходов, поэтому вопрос перешел в философскую плоскость. “Большинство споров были основаны на фиксированных взглядах о том, как должен быть организован мир и как работает мозг, — говорит бывший профессор Стэнфорда по искусственному интеллекту и создатель самоуправляемого автомобиля Google Себастьян Трун. — В нейронных сетях не было символов и правил, только цифры. Это отчуждало от них многих людей”.
Последствия неразборчивости машинного языка не только философские. За последние 20 лет обучение программированию было самым верным путем к надежному трудоустройству — факт, который сложно отрицать, учитывая, как много родителей отдавали своих детей во всевозможные академии программирования. Но мир, который работает за счет нейронных сетей с глубоким машинным обучением нуждается в работниках другого типа.
Аналитики уже начали переживать о том, какое влияние окажет расцвет искусственного интеллекта на рынок труда, поскольку машины делают старые навыки нерелевантными. И программисты вскоре могут почувствовать это влияние на собственной шкуре.

“Этим утром у меня был разговор на данную тему. Я указал на то, как сильно изменится работа программиста к моменту, когда все эти детишки со STEM-образованием подрастут”, — говорит IT-гуру Тим О’Райлли. По его мнению, традиционный код полностью не исчезнет — нам еще долго нужны будут кодеры, но уже не в том количестве, как сейчас. Написание кода превратится в метаскилл, в некий первичный навык, который СЕО Института искусственного интеллекта Аллена Орен Этциони называет “строительным лесом” — они будут создавать основу под машинное обучение.
Также как ньютоновская физика не была вытеснена открытием квантовой механики, код останется мощным инструментарием для исследования мира. Но когда речь зайдет о специфических функциях, машинное обучение будет делать большую часть работы за нас.
Конечно, люди все еще вынуждены тренировать эти системы. На сегодня это редкое умение. Для работы в данной сфере требуются исключительные познания в математике и педагогическая интуиция. “Это почти как форма искусства, позволяющая получить лучшее из этих систем. В мире есть лишь несколько сотен людей, которые умеют делать это действительно хорошо”, — говорит Дэмис Хассабис, глава команды Google DeepMind AI. Но даже такого количества исключительных специалистов оказалось достаточно, чтобы трансформировать всю технологическую индустрию за несколько лет.
Какими бы не были профессиональные последствия этого сдвига, культурные последствия будут еще больше. Если расцвет программного обеспечения, написанного человеком, привел к культу инженера и пониманию, что человеческий опыт можно выразить набором понятных инструкций, машинное обучение запускает маятник в обратном направлении. Код, на котором работает вселенная, может игнорировать человеческий анализ. Уже сейчас Google стал объектом антимонопольного расследования в Европе, в рамках которого компанию обвиняют в оказании чрезмерного влияния на результаты выдачи. Это будет трудно доказать в условиях, когда сами инженеры компании не могут точно сказать, как работает поисковой алгоритм.
Такой взрыв неопределенности назревал давно. Не секрет, что даже простые алгоритмы могут привести к непредсказуемому поведению, что отсылает нас к теории хаоса и генератору случайных чисел. За последние несколько лет, по мере того как росли и сплетались сети, а их функции становились все более сложными, код стал все больше напоминать что-то вроде инопланетной магии, привидение внутри все более неуловимой и неуправляемой машины. Самолеты, которые приземляются без причин. Неотвратимые вспышки аварий на фондовом рынке. Веерные отключения.
Все эти силы побудили технолога Данни Гиллиса объявить конец эпохи Просвещения — нашей процветающей веками веры в логику, детерминизм и контроль над природой. Гиллис говорит, что мы движемся в эпоху Запутывания. “Когда наши технологические и институционные творения стали более сложными, наше отношение к ним изменилось. Мы перестали быть хозяевами наших творений, мы научились с ними торговаться, уговаривать и направлять их на достижение наших целей. Мы построили собственные джунгли, и теперь они живут своей жизнью”, — написал он в “Журнале дизайна и науки”. Развитие машинного обучения — это заключительный и, может быть, последний шаг в данном путешествии.
Все это звучит довольно пугающе. В конце концов, программирование звучало как нечто такое, чему любой желающих мог научиться на буткемпе. Программисты по крайней мере были людьми. Сегодня технологическая элита еще меньше, а ее власть над собственными творениями размыта и косвенна.
Уже сейчас компании, которые все это создали, столкнулись с трудностями в управлении поведением своих же творений. Прошлым летом Google поспешил извиниться, когда его система опознавания лиц начала определять темнокожих людей как горилл. Первым, что компания предприняла, был ламерский шаг — запретить определять что-либо как горилл, в том числе и настоящих горилл.
Под определенным углом все это указывает на то, что мы приближаемся к эпохе, в которой люди утратят контроль над машинами. “Можно представить, что такие технологии перехитрят финансовые рынки, опередят исследователей людей, переиграют человеческих лидеров и создадут оружие, которое мы не сможем даже понять. — написал Стивен Хокинг, которого сразу поддержали Элон Маск и Билл Гейтс. — В то время как в краткосрочной перспективе влияние ИИ зависит от того, кто его контролирует, в долгосрочной перспективе все зависит от того, останется ли он под контролем в принципе”.
Но не пугайтесь — это не восход Скайнета. Мы просто изучаем правила работы с новой технологией. Инженеры уже работают над тем, чтобы визуализировать происходящее “внутри черепушки” обучающихся систем. Но даже если мы никогда не поймем, как мыслят эти новые машины, это не означает, что мы будем безоружны перед ними. В будущем мы не будем так сильно соотносить себя с тем, что лежит в основе их поведения — мы научимся фокусироваться на самом поведении. Код станет менее важен, чем информация, которую мы используем, чтобы их тренировать.
Если все это звучит как-то знакомо, то потому, что очень напоминает старый добрый бихевиоризм 20-го века. К слову, процесс обучения машины часто сравнивают с великим бихевиористским экспериментом в начале 20 века. Павлов исследовал условные рефлексы своей собаки не через глубокое понимание голода, а просто повторяя набор действий снова и снова. Он предоставлял данные до тех пор, пока код сам себя не воспроизвел. И говорите что хотите о бихевиористах, они точно знали, как контролировать свои объекты.
В далекоидущей перспективе, по мнению Труна, машинное обучение окажет демократизирующее влияние. Так же как вам не нужно знать HTML, чтобы построить сайт в наши дни, однажды вам не потребуется диплом, чтобы задействовать невероятную мощь глубокого обучения.
Программирование перестанет быть подвластно обученным кодерам, которые выучили несколько таинственных языков. Оно будет доступно всем, кто хотя бы однажды научил своего пса прыгать через барьер.

“Для меня это самая крутая штука в программировании, потому что теперь любой может программировать”, — говорит Трун.
В истории компьютеров мы часто сталкивались с вывернутым наизнанку пониманием того, как работают машины. Сначала мы пишем код, потом машина его выражает. Такое мировоззрение предполагает пластичность, но также предлагает нечто вроде основанного на правилах детерминизма, ощущения, что вещи являются продуктом инструкций, которые лежат в их основе. Машинное обучение предлагает противоположную точку зрения, согласно которой не только код определяет поведение, но поведение также определяет код. Машины — это продукты нашего мира.
В конечном счете мы будем ценить как силу написанного кода, так и алгоритмов машинного обучения, которые будут его настраивать. Возможно, биологи уже начали работать в этом направлении. Технологии генной инженерии вроде Crispr дают им возможность манипулировать кодом, которым орудуют традиционные программисты. Но открытия в области эпигенетики предполагают, что генетические материалы представляют собой не неизменный набор инструкций, но скорее динамический набор переключателей, которые регулируются в зависимости от условий и опыта хозяина. Наш код не существует отдельно от физического мира — мир оказывает на него глубокое влияние и трансформирует его. Вентер может верить, что клетки — это машины, управляемые ПО на основании ДНК, но эпигенетик Стив Коул предлагает другую формулировку: “Клетка — это машина для превращения опыта в биологию”.
И сегодня, спустя 80 лет после того, как Алан Тьюринг набросал первый эскиз своей вычислительной машины, компьютеры превращаются в устройства по превращению опыта в технологии. Десятки лет мы искали секретный код, который мог объяснить и, с некоторыми изменениями, оптимизировать наш мировой опыт. Но наши машины вскоре перестанут работать по такому принципу — и наш мир на самом деле никогда так не работал. У нас будут более сложные, но также более плодотворные отношения с технологиями. Мы перестанем управлять нашими устройствами — мы будем воспитывать их.

Источник: vlasti.net

Новости портала «Весь Харьков»