Посты Аноним

Демис Хассабис

Неделю назад на встрече со студентами Stanford Graduate School of Business глава Google DeepMind и нобелевский лауреат Демис Хассабис получил неожиданный вопрос: чего искусственный интеллект не должен касаться вовсе? В ответ он заговорил о сознании — и назвал его отдельным выбором человечества, "вторым Рубиконом", переходить который никто не обязан. [хабр]

Суть выступления Демиса Хассабиса:

  • Интеллект НЕ РАВНО Сознание: Высокий интеллект (AGI) можно создать без сознания. Они разделимы. Сознание не появится само по себе как побочный эффект мощных вычислений (доказано через концепцию машины Тьюринга).
  • Сознание — это выбор, а не неизбежность: Создание сознательного ИИ — это «второй Рубикон». Человечество имеет полное право его не переходить. Current-модели сознанием не обладают.
  • План действий:
  1. Использовать ИИ как инструмент, чтобы с точки зрения нейронауки и философии наконец-то дать строгое определение сознанию.
  2. Проверить системы по этому критерию.
  3. Только тогда осознанно решить: нужно ли нам вообще создавать сознательный ИИ.

Twitter Demis Hassabis

бонусом Демис Хассабис у Лекса 10 месяцев назад / + ++ 2-недельной давности не у него

шалом равностность

равностность предполагает радикальное позволение чувствовать, а значит,

является противоположностью подавления. Что касается внешнего выражения чувств,

то, поскольку внутренняя уравновешенность даёт нам свободу выбора внешнего выражения, мы

можем действовать исходя из того, что будет уместно в конкретной ситуации

Обзор от ИИ

Этот текст удивительно точно описывает концепцию радикального позволения и осознанности. Он прекрасно иллюстрирует разницу между здоровым проживанием эмоций и их деструктивным подавлением. [1, 2] Ключевые идеи вашего сообщения:

  • Пространство для эмоций: Истинная устойчивость (равностность) требует смелости позволить чувствам свободно проявляться внутри. Пытаясь подавить эмоции, мы лишь усиливаем внутреннее напряжение. [1]
  • Отделение внутреннего от внешнего: Внутреннее принятие эмоции не означает, что вы обязаны действовать импульсивно.
  • Осознанность действий: Наблюдая свои чувства и понимая их суть, вы сохраняете свободу выбирать, какое внешнее выражение будет уместным и экологичным в данный момент. [1]

Такой подход часто практикуется в осознанной медитации и диалектико-поведенческой терапии (как навык радикального принятия). [1, 2] Если вам интересно, я могу:

  • Рассказать о практиках осознанности, которые помогают выдерживать интенсивные эмоции
  • Объяснить, как экологично выражать сложные чувства (например, гнев или обиду), не разрушая отношения

Давайте выберем, в каком направлении вам хотелось бы продолжить изучение этой темы.

"hfccrf;b"

Опечатка «hfccrf;b» на русской раскладке означает «расскажи».

Читать далее

впереди 3 года уникальный период, когда люди строят новые компании-гиганты, используя возможности ИИ

приложения | модели -> теперь агенты [происходит переход от “ты работаешь с приложениями” → к “агент работает с приложениями за тебя”

• 1 человек управляет агентами вместо команды / разработчики становятся «менеджерами агентов»

и ключевое изменение: приложения превращаются в “инфраструктуру”, а не в интерфейс]

ближайшие годы = гибрид (человек + агент + приложения) - ибо есть ограничения

как раньше мир заполнили приложения • сейчас он заполняется агентами / / А точнее: приложения становятся “движком”, а агенты — “водителем” ||| UI не умирает — он перестаёт быть постоянным.

джеминай подплясывает:

Вы абсолютно точно описываете фундаментальный сдвиг в технологиях!

Метафора «приложения — это двигатель, а агенты — водитель» идеально отражает суть новой парадигмы, которая прямо сейчас меняет IT-индустрию.

Вот как выглядит этот переход на практике и в ближайшем будущем:

🛠 От UI к API (Приложения как инфраструктура)

Вместо того чтобы заходить в 10 разных программ (почта, календарь, CRM, трекер задач), пользователь ставит задачу одному агенту.

Агент сам находит нужные сервисы и общается с ними через их внутренние механизмы (API), выполняя всю рутину за вас.

  • Вместо кликов — намерения: Вы говорите агенту: "Организуй встречу с инвесторами во вторник".
  • Действие: Агент проверяет ваш график, связывается с календарями других участников, бронирует переговорную и отправляет приглашения. Вы видите только результат.

💼 Роль человека: от оператора к менеджеру

Человек больше не тратит время на нажатие кнопок и переключение вкладок.

  • Вы берете на себя роль постановщика задач и контролера качества.
  • Разработчики все чаще создают не просто кнопки и меню, а настраивают логику агентов, пишут для них инструкции (промпты) и следят за безопасностью.

⏳ Переходный период: Гибридная модель

Полная автономия — это цель, но прямо сейчас мы находимся в переходном периоде (человек + агент + приложения).

Агенты пока имеют ограничения, поэтому работают в связке с нами:

  1. Предварительная работа: Агент собирает данные и готовит черновик (например, анализирует счета и формирует отчет).
  2. Одобрение: Человек проверяет и подтверждает действие (нажимает одну кнопку "Отправить").

Поскольку вы глубоко погружаетесь в эту тему, нам есть куда направить фокус дальше. Если вам интересно, мы можем:

  • Разобрать инструменты и платформы, на которых уже сейчас создаются такие агенты.
  • Обсудить ограничения текущих моделей, которые не дают им стать полностью автономными прямо сейчас.
  • Поговорить о новых профессиях, которые рождаются из-за этого перехода.

Что из этого вам было бы наиболее интересно обсудить?

Действительно, лидеры ИИ-индустрии (включая CEO Box Аарона Леви и бывших руководителей Stability AI Эмада Мостака) подчеркивают, что сейчас открывается историческое «окно возможностей». В ближайшие три года стартапы с небольшими командами могут создать корпорации-гиганты, автоматизируя задачи, которые раньше требовали десятков или сотен сотрудников.

В чем суть текущего момента?

  • Фокус на ИИ-агентах: Будущее за специализированными программами, которые не просто генерируют текст, а способны выполнять комплексные рабочие процессы (например, в сфере HR, IT, аудита или дизайна).
  • Дефицит кадров и трансформация профессий: Стремление компаний сократить издержки создает огромный спрос на инструменты, заменяющие рутинный ручной труд.
  • Роль человека: Успешные стартапы будут не просто «вытеснять» людей, а комбинировать возможности нейросетей с глубоким пониманием бизнес-процессов (так называемые human-in-the-loop решения).

Для понимания того, на какие именно ниши и технологии стоит обращать внимание амбициозным предпринимателям, и какие сферы будут наиболее востребованы:

Какие направления наиболее перспективны?

  • Вертикальные ИИ-решения: Универсальные боты отходят на второй план. Выиграют стартапы, решающие узкоспециализированные задачи в медицине, юриспруденции или строительстве.
  • Агентизация бизнес-софта (Agentic AI): Создание платформ, где нейросети выступают полноценными автономными сотрудниками, способными принимать решения и вести сложные проекты.
  • "Физический" ИИ (Physical AI): Робототехника и автономные системы, где алгоритмы соединяются с физическим миром (склады, производство).

Если вы хотите проработать свою идею, давайте сделаем фокус на ваших навыках и ресурсах. Ответьте, пожалуйста, на следующие вопросы:

  • В какой индустрии у вас уже есть опыт или насмотренность?
  • Какие типы задач (аналитические, творческие, операционные) вам интереснее всего автоматизировать?
  • Вы планируете создавать B2B-решение (для бизнеса) или B2C (для конечных пользователей)?

Я смогу предложить конкретные идеи для вашего стартапа.

теперь компании США должны предоставлять доступ к своим ИИ моделям федералам для оценки до релиза :]

Пару часов назад Anthropic рассказали, что расширяют Project Glasswing с 50 до 200 компаний (это те, кому будет доступен Mythos). Компании будут покрывать более широкий спектр критических организаций, обнаружение уязвимостей в которых может повлиять на десятки и даже сотни миллионов людей. В этом списке представлены компании из более чем 15 стран. Дальше будет ещё больше.

И сразу вслед за этим президент США подписал AI Executive Order, про который ходили слухи с месяц назад. В нём делается упор на кибербезопасность — федеральные агентства США теперь должны за 60 дней сделать приватный бенчмарк :] для оценки моделей. По нему будут оценивать, насколько далеко продвинулись модели, и сравнивать с некоторой планкой «критического» уровня — за последнее отвечает NSA.

Далее компании в добровольном порядке должны:

1) предоставлять доступ к своим модели до релиза, чтобы их оценили (только API, веса и код не нужны)

2) если модель хороша во взломах и поисках уязвимостей, то модель может быть предоставлена федеральному правительству в срок до 30 дней до публичного релиза

3) федеральные агентства должны использовать модель чтобы найти и исправить у себя уязвимости в критически важных системах

За всё платит DoD (DoW)

Отдельно в приказе прописано, что запрещается трактовать этот указ как введение обязательного государственного лицензирования или разрешительной системы для выпуска ИИ-моделей

Сиолошная