три ключевых

1. Дезинформация и дипфейки захлестнут мир (делитесь варнетом с близкими сейчас - мы проверяем инфу и указываем источники).

2. Появятся первые ИИ-агенты, не только помогающие, но и делающие что-то за людей (следите за варнетом).

3. Регулирование ИИ зайдет в тупик из-за необходимости решения проблемы «супервыравнивания».

+

Два первых прогноза понятны без пояснений.

3й поясню.

• Cуществующие методы выравнивания (управление тем, чтобы цели людей и результаты их реализации ИИ совпадали) перестают работать в случае сверхразумного ИИ

• Появление сверхразумных ИИ (которые превосходят человеческий интеллект в большинстве задач, имеющих экономическую ценность) все ближе

• Если до их появления не появятся методы выравнивания с ним («супервыравнивания»), миру мало не покажется

https://hai.stanford.edu/news/what-expect-ai-2024 (Малоизвестное интересное)

С целью решить эту проблему OpenAI и Эрик Шмидт совместно объявили $10 млн программу грантов.

Похвально, но смахивает на PR. https://openai.com/blog/superalignment-fast-grants .