Вероятность того, что ИИ уничтожит всё человечество в ближайшие 10 лет — выше 10%.
У нас нет чёткого плана, как этого не допустить.
Это не заголовок жёлтой прессы, а слова главы по безопасности ИИ в Anthropic — компании, которая сама разрабатывает передовые модели.
Мы спешим сделать ИИ умнее, полезнее и прибыльнее, но почти не вкладываемся в то, чтобы он остался безопасным для вида «homo sapiens».
Сценарий, в котором мы всё проигрываем, уже не фантастика, а обсуждаемая вероятность. И не нулевая.
Вопрос не в том, «убьёт ли нас ИИ»,
а в том, успеем ли мы договориться о правилах и защите до того, как нажмём газ в пол.
Может, пора относиться к ИИ как к ядерным технологиям:
системы сдержек, надзор, международные договорённости — вместо детского «да ладно, как‑нибудь пронесёт».
Если шанс конца цивилизации >10%,
то нормальная реакция — не мемы, а план. Пока ещё есть кому его писать.
#ИИ #безопасностьИИ #Anthropic #будущее #технологии #этика #прогресс #экзистенциальныйриск
У нас нет чёткого плана, как этого не допустить.
Это не заголовок жёлтой прессы, а слова главы по безопасности ИИ в Anthropic — компании, которая сама разрабатывает передовые модели.
Мы спешим сделать ИИ умнее, полезнее и прибыльнее, но почти не вкладываемся в то, чтобы он остался безопасным для вида «homo sapiens».
Сценарий, в котором мы всё проигрываем, уже не фантастика, а обсуждаемая вероятность. И не нулевая.
Вопрос не в том, «убьёт ли нас ИИ»,
а в том, успеем ли мы договориться о правилах и защите до того, как нажмём газ в пол.
Может, пора относиться к ИИ как к ядерным технологиям:
системы сдержек, надзор, международные договорённости — вместо детского «да ладно, как‑нибудь пронесёт».
Если шанс конца цивилизации >10%,
то нормальная реакция — не мемы, а план. Пока ещё есть кому его писать.
#ИИ #безопасностьИИ #Anthropic #будущее #технологии #этика #прогресс #экзистенциальныйриск
В России начали появляться первые персональные истории, а теперь ещё и громкие увольнения в ИИ-компаниях, которые звучат как предупреждение.
Из Google DeepMind ушёл специалист по безопасности ИИ Билал Чугтаи. Его позиция предельно жёсткая:
он считает, что искусственный интеллект при нынешней траектории развития реально способен привести к гибели всего человечества, и что «время, чтобы избежать этого исхода, может заканчиваться».
Ключевые мысли Чугтаи:
- ИИ уже не просто игрушка или инструмент, а технология с потенциально экзистенциальным риском.
- Проблема не в самом факте развития ИИ, а в гонке между крупнейшими компаниями: кто быстрее, кто мощнее, кто запустит следующую модель.
- Без жёсткой координации (по сути, международного регулирования и договорённостей между игроками) эта гонка становится маниакальной и толкает индустрию к игнорированию рисков.
- Тем не менее он подчёркивает: безопасное развитие ИИ возможно, но только если установить реальные ограничения, прозрачность и общие правила игры.
Подобные заявления изнутри крупных ИИ-лабораторий важны не из-за драматичности формулировок, а потому что отражают растущий раскол:
между теми, кто видит в ИИ в основном инструмент/рынок/технологию,
и теми, кто воспринимает его как потенциальную угрозу цивилизационного уровня.
#ИИ #безопасность #GoogleDeepMind #экзистенциальныйриск #нейросети
Из Google DeepMind ушёл специалист по безопасности ИИ Билал Чугтаи. Его позиция предельно жёсткая:
он считает, что искусственный интеллект при нынешней траектории развития реально способен привести к гибели всего человечества, и что «время, чтобы избежать этого исхода, может заканчиваться».
Ключевые мысли Чугтаи:
- ИИ уже не просто игрушка или инструмент, а технология с потенциально экзистенциальным риском.
- Проблема не в самом факте развития ИИ, а в гонке между крупнейшими компаниями: кто быстрее, кто мощнее, кто запустит следующую модель.
- Без жёсткой координации (по сути, международного регулирования и договорённостей между игроками) эта гонка становится маниакальной и толкает индустрию к игнорированию рисков.
- Тем не менее он подчёркивает: безопасное развитие ИИ возможно, но только если установить реальные ограничения, прозрачность и общие правила игры.
Подобные заявления изнутри крупных ИИ-лабораторий важны не из-за драматичности формулировок, а потому что отражают растущий раскол:
между теми, кто видит в ИИ в основном инструмент/рынок/технологию,
и теми, кто воспринимает его как потенциальную угрозу цивилизационного уровня.
#ИИ #безопасность #GoogleDeepMind #экзистенциальныйриск #нейросети