+

Стив Возняк из Apple, Илон Маск из Tesla и SpaceX, Тристан Харрис из Центра гуманных технологий и ещё более тысячи человек подписали открытое письмо с призывом приостановить разработку систем искусственного интеллекта мощнее GPT-4 на полгода.

Бот GPT-4 завис от вопроса Би-би-си о том, как он относится к приостановке разработки ИИ.

Авторы письма пишут, что современные ИИ становятся конкурентоспособными в решении общих задач человечества.

Среди риторических вопросов, которые ставят кибернетики:

- Должны ли мы позволять машинам наводнять наше инфополе дезинформацией?

- Должны ли мы автоматизировать все рабочие места?

- Должны ли мы развивать искусственные умы, которые в конечном итоге могут превзойти нас, сделать нас ненужными и заменить нас?

- Должны ли мы рисковать потерей контроля над нашей цивилизацией?

Эксперты и руководители, подписавшие письмо, считают, что обучение ИИ нужно остановить, пока не появятся общие протоколы безопасности - в противном случае власти или ООН должны ввести мораторий.

Дальнейшая разработка возможна, только если апдейты приведут к положительным эффектам при подконтрольных рисках, уверены подписанты.