Вероятность того, что ИИ уничтожит всё человечество в ближайшие 10 лет — выше 10%.
У нас нет чёткого плана, как этого не допустить.

Это не заголовок жёлтой прессы, а слова главы по безопасности ИИ в Anthropic — компании, которая сама разрабатывает передовые модели.

Мы спешим сделать ИИ умнее, полезнее и прибыльнее, но почти не вкладываемся в то, чтобы он остался безопасным для вида «homo sapiens».
Сценарий, в котором мы всё проигрываем, уже не фантастика, а обсуждаемая вероятность. И не нулевая.

Вопрос не в том, «убьёт ли нас ИИ»,
а в том, успеем ли мы договориться о правилах и защите до того, как нажмём газ в пол.

Может, пора относиться к ИИ как к ядерным технологиям:
системы сдержек, надзор, международные договорённости — вместо детского «да ладно, как‑нибудь пронесёт».

Если шанс конца цивилизации >10%,
то нормальная реакция — не мемы, а план. Пока ещё есть кому его писать.

#ИИ #безопасностьИИ #Anthropic #будущее #технологии #этика #прогресс #экзистенциальныйриск