Заразный страх вокруг ИИ: Cantrill отвечает на заявления Anthropic

Бывший сотрудник Anthropic Jacob Coxon подтвердил, что многие исследователи лаборатории считают: ИИ способен уничтожить человечество к концу десятилетия. Bryan Cantrill из Oxide ответил — размахивать сценариями взлома инфраструктуры и биооружия без экспертизы нельзя, особенно когда публика по умолчанию верит людям с именем в индустрии.

В твите Coxon звучат «взлом критической инфраструктуры» и «биооружие уровня вымирания» — без дальнейших деталей. Cantrill отмечает: автор не специалист ни по инфраструктуре, ни по биологическому оружию, ни по вопросам вымирания. На вопрос «как именно это произойдёт?» ответы сводятся к размашистой экстраполяции в будущее.

Cantrill вспоминает свой молодой опыт, когда технические ошибки быстро переросли в панику у менее подкованных коллег. Вывод жёсткий: доменные эксперты неявно держат доверие публики — и злоупотреблять им при поднятии тревоги нельзя. Разбираться в моделях, критической инфраструктуре или биологии вымирания от публики никто не требует; нагрузка лежит на тех, кто заявляет об угрозе.

Развёрнутее он говорил на подкасте Oxide and Friends — Simon Willison тоже участвовал в выпуске. Биооружие от моделей обсуждают с 51:44; на 57:04 Cantrill прямо просит подключить биолога или специалиста по биологическому оружию. По его словам, такие заявления оставляют слишком много места для воображения, которое мы заполняем страхом.

Источник: The contagion of fear.