Нобелевку по физике дали за нейросети, главный драйвер нынешней технологической революции!

https://www.nobelprize.org/prizes/physics/2024/summary/

Лауреаты этого года, Джон Хопфилд и Джеффри Хинтон, использовали инструменты из физики для создания методов машинного обучения, ставших основой "весны искусственного интеллекта", – а значит, и всего самого главного, что происходит с технологиями в наше время.

+

Эти двое ученых подарили машинам способность запоминать и учиться, - и в результате имитировать мышление даже успешней большинства людей. Благодаря им термин «искусственный интеллект», под которым еще недавно каждый имел в виду что–то свое, в 2010-е годы обрел ясное и практическое значение – так стали называть алгоритмы, способные учиться.

Искусственные нейросети придумали математики еще в 1960-х, пытаясь имитировать строение человеческого мозга. Но они не находили практического применения, - до появления на сцене наших лауреатов.

Вдохновившись одной из систем, обнаруженных в атомной физике, Джон Хопфилд в 1982 году придумал сеть Хопфилда - нейросеть, способную запоминать изображения (и любые шаблоны), а потом воссоздавать их. Когда такой сети дается неполный или слегка искаженный шаблон, метод может найти наиболее похожий сохраненный шаблон.

Второго лауреата, Джеффри Хинтона, называют «отцом искусственного интеллекта», - он главный среди тех, кто придумал первые «глубокие сети». Используя сеть Хопфилда и инструменты из статистической физики, Хинтон создал новый тип нейросетей - машину Больцмана, способную научиться распознавать в данных характерные элементы или признаки. Эта машина, обучается на примерах, - допустим, различать изображения. Помните, первой ласточкой конца «зимы ИИ» и начала «весны ИИ» стала новость начала 2010-х, что нейросети научились отличать котов на картинках, после того, как им показали очень много котов?

Что ж, Нобелевку дали за самое главное, и правильно! Очень надеюсь на ИИ во всех областях, а прежде всего – в науке... Но и опасений немало (хотя надежд у меня все же больше).

А в связи с опасениями приведу байку про Хинтона, которую недавно услышал от математика Александра Кулешова. Вот что он сказал:

«Сейчас общее мнение специалистов заключается в том, что мы уже развитие искусственного интеллекта удержать не можем, что этот момент уже пройден. Перед своим уходом с поста вице-президента Гугла полгода назад Хинтон читал лекцию в MIT. У него из зала спросили: «Что же вы так беспокоитесь? Будет просто система правил, которую мы зададим машине». И Хинтон ответил: «Представь себе, - приходит к тебе твой двухлетний сын и говорит, - папа, мне не нравится твое поведение. Я вот написал тут на бумажке, какие правила ты должен соблюдать». Так вот, будет примерно то же самое. Мы проскочили тот момент, когда развитие искусственного интеллекта еще было подконтрольно обществу. Оно вышло из-под контроля хотя бы потому, что военные никогда не прекратят его использование и развитие».

Еще про Джеффри Хинтона, получившего вчера Нобелевку по физике за глубокие нейросети, - он интересный. Удивительно уже то,..

+

то, что он правнук логика Джорджа Буля, чья работа стала одной из основ компьютерной науки.

Психологи тоже могут порадоваться, - в кои-то веки Нобелевку получил человек с дипломом психолога – да еще какую, по физике! (физики, кстати, адски недовольны). Хинтон долго искал себя, пробуя то философию, то историю искусств, а в 1970-м окончил Кембридж с дипломом по экспериментальной психологии. Были Нобелевки за вещи, связанные с психологией, – по поведенческой экономике дали несколько, или та, что Сперри с Газзанигой получили за исследования расщепленного мозга, – но из людей с психологическим бэкграундом премию, кажется до сих пор получал только Дэниэл Канеман давным-давно.

Докторскую степень Хинтон получил уже в области искусственного интеллекта, но психологию не забыл. Он любит исследовать «ментальные образы» ИИ, изобретает головоломки для проверки оригинальности и творческого мышления умных машин, сравнивал эффекты повреждения мозга с эффектами потерь информации в искусственной нейросети и обнаружил поразительное сходство.

В 2013 году Хинтона принял в штат Google, купив его компанию за 44 млн долларов. С тех пор он получил массу наград, у него повсюду ученики, включая Илью Суцкевера, - который свою озабоченность проблемой безопасности ИИ, похоже, перенял от Хинтона, в мае 2023 года объявившего об уходе из Google, чтобы «свободно высказываться о рисках ИИ».

Еще понравилось, как про Хинтона написал Илья Плеханов, все дальнейшее - цитата:

«Подход Хинтона основан на глубоких нейронных сетях — математических абстракциях, в которых нейроны представлены кодом; просто изменив силу связей между этими нейронами — изменив числа, используемые для их представления, — сеть могла бы обучаться сама.

До него доминирующая парадигма была совершенно иной: большинство исследователей считали, что для того, чтобы машины могли думать, им придется имитировать способ мышления человека, манипулируя символами (например, словами или числами), следуя логическим правилам.

Но потомок Буля не согласился: «Вороны могут решать головоломки, — сказал он в интервью MIT Technology Review в прошлом году, — и у них нет языка. Они делают это, изменяя силу связей между нейронами в мозгу. Поэтому должна быть возможность изучать сложные вещи, изменяя силу связей в искусственной нейронной сети».

Нейронные сети Хинтона долгое время не могли ожить. Им просто не хватало вычислительной мощности и обучающих данных. Но начиная с 2010 года его идеи расцвели так, как он даже не мог себе представить, и нейронные сети стали основным направлением международных исследований. «Мы перестали быть сумасшедшими маргиналами», — сказал он. «Теперь мы — сумасшедшее ядро».

А затем появился ChatGPT, ИИ, способный делать так много вещей, о которых Хинтон думал, что они станут доступны лишь через десятилетия. Настолько, что происходящее вселило в него страх Божий. Весной 2023 года Хинтон уволился с поста вице-президента Google, чтобы предупредить мир об опасности своего детища.

Он считает, что ИИ развивается слишком быстро:

«...Вполне возможно, что человечество — это лишь проходящий этап в эволюции интеллекта. Вы не можете напрямую эволюционировать цифровой интеллект. Это потребовало бы слишком много энергии и слишком тщательного изготовления. Вам нужно, чтобы биологический интеллект развился, чтобы он мог создать цифровой интеллект, затем цифровой интеллект может поглотить все, что когда-либо было написано людьми, пусть и довольно медленно, что и делает ChatGPT, но затем он может получить прямой доступ к опыту из мира и работать гораздо быстрее. Возможно, мы будем существовать еще какое-то время, чтобы поддерживать работу электростанций. Но после этого, возможно, нет...»

Хинтон преобразился. Он превратился из евангелиста новой формы разума в пророка гибели. Он говорит, что его мнение изменило осознание того, что мы, по сути, не скопировали наш интеллект, а создали более совершенный...»

+ бонус:

Ожидаемо, но и поразительно, - Нобелевку по химии тоже дали за нейросети! Теперь больше ничего не будет, одни нейросети )

Вот лаконичная формулировка Нобелевского комитета:

«Одна половина премии достается Демису Хассабису и Джону Джамперу, которые использовали искусственный интеллект для успешного решения проблемы, над которой химики боролись более 50 лет: предсказание трехмерной структуры белка из последовательности аминокислот. Это позволило им предсказать структуру почти всех 200 миллионов известных белков. Другая половина премии присуждается Дэвиду Бейкеру. Он разработал компьютерные методы для достижения того, что многие люди считали невозможным: создания белков, которые ранее не существовали и которые во многих случаях имеют совершенно новые функции».

А начиналось все с игры в го… В 2010-х она оставалась последним свидетельством превосходства человека над машинами в мире стратегических игр. Считалось, что компьютерные расчёты тут бесполезны: возможных комбинаций в игре больше, чем атомов во Вселенной. Самые сильные программы, играющие в го, не могли подняться выше пятого дана — пока в 2015 году не появилась AlphaGo, разработанная Демисом Хассабисом и его компанией DeepMind на основе новаторской тогда технологии глубокого обучения. Глубокие нейросети не программируются, а учатся сами, на примерах — как дети, получая «вознаграждение» за хорошее поведение и успехи в учёбе (этот метод воспитания нейросетей так и называется — обучение с подкреплением).

Победа AlphaGo над Ли Седолем, одним из сильнейших игроков мира, и девятый дан, в итоге присвоенный нейросети, стали шоком не только для профессиональных игроков, но и для правительства Южной Кореи, которое сразу после поединка в го, проходившего в Сеуле, выделило миллиард долларов на развитие ИИ.

Хассабис – бывший шахматист, но его интересовало не создание программ, побеждающих в го, — он занимается ИИ как таковым. В 2014-м Google заплатил за его стартап DeepMind больше полумиллиарда долларов, - мир понял, что в случае с AlphaGo речь идёт не о прорыве в создании машин, играющих в го, а о прорыве в разработке машинного интеллекта в целом.

Ставка на DeepMind оправдалась - наследница AlphaGo, нейросеть AlphaFold, разработанная Хассабисом и специалистом по моделированию белков Джоном Джампером, сделала крупнейшее научное открытие — научилась предсказывать структуру белка по последовательности аминокислот, - звеньев, из которых состоит молекула белка, похожая на свернутую в узел длинную цепочку. Если молекула ДНК в наших клетках подобна книге или программе, то белки похожи на нанороботов миллиона разных видов, с миллионом разных функций. Функцию каждого конкретного наноробота определяет его форма, структура, - а она задается последовательностью из аминокислот. AlphaFold решила задачу, над которой полвека бились ученые, - чтобы, перебирая разные последовательности, подбирать нужную форму белка, – например, нужный ключик к какому-то рецептору.

Google DeepMind сделала код AlphaFold2 общедоступным, - к октябрю 2024 года нейросеть использовали более двух миллионов человек из 190 стран. Модель стала золотой жилой для исследователей, - раньше на получение структуры белка часто уходили годы, если это вообще удавалось. Теперь это можно сделать за несколько минут.

А третий лауреат, Дэвид Бейкер, придумал нейросеть Розетта, способную совершить обратную операцию – по нарисованной форме белка придумать тип аминокислотной последовательности, которая свернется в эту форму, - то есть создать белок, не существующий в природе, но способный выполнять нужную функцию. Допустим, подобрать нужный ключик к молекуле-рецептору теперь можно сразу, исходя из формы этого рецептора, - той молекулы-замка, на которую надо воздействовать этим ключиком (кстати, совсем недавно DeepMind тоже выпустил подобную нейросеть - AlphaProteo).

+

На картинке - полезные белки, разработанные с помощью программы Бейкера Rosetta.

by кот, который и тут и там