Весной бывший директор Google Эрик Шмидт дал интервью для платформы TED,
в котором за двадцать минут рассказал о нашем положении дел. По оценкам Шмидта, которые разделяют другие эксперты, до появления чего-то вроде AGI, искусственного интеллекта, способного решать любые задачи, стоящие перед человеком или в альтернативом варианте сверхинтеллекта, который делает человеческий разум устаревшим, у нас остается примерно пять лет. За это время хорошо бы закрыть дела, подготовиться к будущем и заодно раздать интервью - потом уже будет не до этого.
В социальных сетях часто воспроизводятся аргументы, которые в обобщенном виде появились еще в классической статье Тьюринга 1950 года: люди настаивают, что у них якобы есть нечто такое, что точно не будет воспроизведено машиной, как-то целеполагание, эмоции, способность создавать новое. Эти аргументы в основном являются примером дикого антропоцентризма, воспроизводящего в несколько более современном варианте картезианский миф о мышлении, вынесенном за пределы физической реальности. Нашему виду свойственно гордиться самосознанием как нашей отличительной чертой, и эта штука действительно подарила нам много особенных минут, однако если бы слоны писали трактаты по философии, они с той же настойчивостью повторяли бы, что главные уникальные черты любого великого вида - это масса и хобот.
Шмидт как инстинный нерд из долины предлагает принять неизбежное и радоваться тому, что на жизнь нашего поколения пришелся величайший переход в человеческой истории за последние 500, а то и все 1000 лет. Я готов разделить этот энтузиазм, но предлагаю небольшую поправку: с большой долей вероятности появление качественно более развитого интеллекта - это главное и одновременно последнее событие в истории человеческого вида. Не в смысле примитивного апокалиптического сценария войны с машинами из "Терминатора", а просто по той причине, что люди перестанут быть субъектами действия или культуры.
Алгоритм имеет смысл инструментализировать до тех пор, пока ты хотя бы в общих чертах можешь, привлекая лучших экспертов, объяснять как он работает. Мы прямо сейчас балансируем на этой грани, и понимания, по-моему, хватит ненадолго - качественно более сложный интеллект не нуждается в человеческих объяснениях, это все равно как объяснять смысл эволюционной биологии шимпанзе. Я часто думаю о шахматах, в которые много играю в последние годы - много, быстро и плохо. Шахматы тривиальны для современных нейросетей, но остаются интересной игрой для человека, потому что их сложность колеблется на пределе когнитивных способностей нашего вида.
Шмидт говорит, что в гонке за создание сверхинтеллекта выжили две конкурирующие системы: США и Китай, которые инвестируют миллиарды в разработки алгоритмов и железа для ИИ. США впереди с точки зрения чипов, но Китай отвечает эффективными платформами с открытым кодом, такими как DeepSeek, и кроме того всем очень не хватает источников энергии для следующего технологического рывка. В США нужно построить девяносто новых АЭС, чтобы обеспечить растущие потребности в вычислениях. В какой-то момент в течение ближайших лет близость сверхинтеллекта в одной из конкурирующих систем может быть поводом для начала Третьей мировой: лучше получить несколько ядерных бомб по своей территории, чем дождаться, когда твой противник обретет решающее преимущество, способное дать ему принципиально новые виды вооружения, биотехнологии и стратегическое видение ситуации.
В 2026 году массовое распространение получат агенты, на фоне которых наша сельская драма про иноагентов несколько поутихнет: системы нового типа получат возможность обрабатывать информацию в автономном режиме и решать большинство рутинных задач людей. Нерд из долины мечтает о том, чтобы у каждого ребенка с детства был наставник уровня Аристотеля, говорящий с ним на родном языке, чтобы у врачей и санитаров во всем мире был высококвалифицированный консультант, готовый давать объяснения из доказательной медицины на том уровне, на котором медик готов их понять и использовать во благо пациента. Шмидт мечтает о том, что сверхинтеллект даст нам понимание темной материи и совершенно новую физическую теорию, потенциальный доступ к неограниченным источникам энергии. Он говорит о том, что ИИ подхватит падающее знамя человечества: к концу столетия при нынешней динамике рождаемости на планете будет слишком мало людей и им будет слишком много лет для того, чтобы продолжать генерировать экономический рост, и AGI тут будет как нельзя более кстати, он увеличит производительность труда людей невиданными прежде темпами в 30% в год.
Я вижу два противоречия в рассуждении Шмидта. Ссылаясь на свой опыт работы на Пентагон, он рассуждает о том, что в американской армии есть принцип "никаких решений без осознанной ответственности человека", и предлагает распространить это ограничение на все сферы, связанные с ИИ. Однако гонка за производительностью и эффективностью неизбежно приведут в какой-то момент к конфликту с этим принципом, и либо Китай отменит человеческий контроль за ИИ, либо это сделает Америка, чтобы не проиграть конкуренцию.
Главная фантазия Шмидта связана с моделированием научного открытия, которое он представляет как работу с "нестабильными объектами". Шмидт считает, что у людей все работает так: по-настоящему яркий ум вроде Эйнштейна замечает два схожих паттерна информации из разных сфер, которые люди обычно не связывают друг с другом, и совершает научную революцию. Задача следовательно заключается в том, чтобы научить машину работать с переносом паттернов в рамках таких нестабильных предметных сфер. Как и в случае операционного запрета на "решения без человека" это скорее логика инженера, чем социального мыслителя. Развитие научного знания в значительной большей степени исходит из социальных взаимодействий людей и социальной природы разума как такового, чем из прорывов гениев-одиночек, какими они описаны в культуре. Научные революции - результат социальной эволюции, и нейросети, которые выйдут на поиск "новой науки", тоже должны строиться по этой эволюционной модели, что оставляет еще меньше пространства для контроля со стороны представителей нашего вида.
В 2012 году Шмидт, вдохновленный тем, что роботы Google спарсили весь интернет и все человеческое знание, рассуждал о том, что будущем люди станут по достижению совершеннолетия получать новые цифровые личности, чтобы никто не знал, какие глупости они делали в интернете до начала официальной карьеры. Инженер видит мир как набор багов, которые следует пофиксить, и систематически недооценивает гибкость культуры: в реальности люди просто стали меньше напрягаться из-за своих глупостей, заботливо сожранных нейросетями.
В Твиттере прямо сейчас развивается масштабный эксперимент по созданию нового машинно-человеческого общества и когнитивной модели, обслуживающей его, когда пользователи социальной сети с важным видом задают вопросы Grok ("рассуди, кто прав?", "проверь информацию", "сделай выводы"). Постепенно машинный контент сделает человеческий несколько олдскульным, но нам ведь еще нужно так много сказать друг другу в оставшиеся пять лет, верно?
Теорий много в этом вопросе , мы не знаем сколько подводных камней на пути к пониманию и что будет по факту, и как с этим коммуницировать работать , время покажет
⬆️ согласен с комментом. А статья - уг.
Когда ИИ научится видеть сны, вот тогда и произойдет закат человечества. Но этого не произойдет никогда - человеку нужно всего 20 ватт мощности, чтобы видеть сны. ИИ же не хватит и всех земных мощностей... Это то, что в статье называют переносом и смешиванием паттернов. Как это работает в мозгу, даже человек не может осмыслить, как он машину может этому научить?