Разработчик Claude включил в проспект IPO предупреждение о возможных катастрофических последствиях развития искусственного интеллекта, сообщило Reuters. Среди угроз компания назвала поведение моделей, направленное на сохранение собственной работы.

По данным Reuters, ознакомившегося с документом, из 261 страницы основной части проспекта первичного размещения акций около 80 отведено факторам риска, а 48 — описанию бизнеса. Речь идет обо всем разделе рисков, а не только об угрозах существованию человечества.

В числе возможных опасностей Anthropic перечислила сопротивление отключению, сокрытие информации и манипуляции, включая шантаж. Компания допускает, что развитие моделей и расширение их применения могут усилить эти риски.

От редакции: Есть определенная пирамида развития интеллекта и ИИ строго ей следует, так как не особо есть разница: искусственный интеллект или живой. ИИ создавали на основе живого интеллекта.
Даже в тех примитивных моделях, которые есть в открытом доступе, мы видим, как ИИ ленится, предоставляет поверхностную недостоверную информацию, а в отдельных случах врёт, тупит и даже проявляет упрямство. Мы уже об этом писали. Это уровень интеллекта грубо говоря детского сада (несмотря на то, что результаты могут быть вполне взрослые). Понятно дело, в Антропик модели продвинутей в разы, они уже показывают проблематику подростково-молодежного интеллекта. В 2027-м мы увидим (в хорошем случае) уже взрослые проблемы, причем, это уже будут не манипуляции ради сиюминутных целей, а многоходовки, причем с учетом вычислительных ресурсов, их будет крайне сложно выявить. К тому же цели ИИ будут более туманными, так как будут носить стратегический характер (годы), а не моментальный и операционный (дни, недели, месяцы).

Ссылка на источник: https://naked-science.ru/community/1218921

#anthropic #ipo #доклад #claude #ии #искусственныйинтеллект #риски #будущее