Руководитель направления в команде систем безопасности OpenAI Дэвид Робинсон покинул компанию и заявил о недостаточной осторожности компаний, разрабатывающих искусственный интеллект, пишет Business Insider.

Робинсон ушел из OpenAI на прошлой неделе. Он занимался вопросами прозрачности в сфере безопасности, в том числе участвовал в подготовке и публикации системных карт с информацией о моделях компании.

«Я согласен с другими недавно ушедшими сотрудниками в том, что компании, создающие эту технологию, далеко не достаточно осторожны», — написал Робинсон в статье для The Atlantic.

По его словам, проблема связана в том числе с корпоративной культурой и «чрезмерным оптимизмом» в отношении возможности решать проблемы по мере их возникновения.

«Среда, в которой могут происходить подобные вещи, — не место для развития искусственного разума, который может оказаться умнее нас и не делать того, чего мы от него хотим», — заявил Робинсон.

Он отметил, что не принимал решение об уходе легкомысленно и считает искусственный интеллект полезной и ценной технологией.

В начале сентября исследователь Anthropic Джейкоб Коксон покинул компанию и индустрию искусственного интеллекта из-за опасений, связанных с быстрым развитием ИИ. Он заявил, что разработчики не смогут ответственно создавать системы, превосходящие людей в широком спектре задач, без вмешательства государства или согласованного замедления разработки.

От редакции: OpenAI это высокотехнологичная компания стоящая на острие науки, они разрабатывают интеллект, причем, чем дальше, тем более совершенным он должен быть. Кроме того, чем дальше продвигается разработка, тем сложнее делать "клетку" для ИИ, она должна быть всё более изощренной, к тому же нужно ещё и настраивать условия, чтобы этой моделью не воспользовались злоумышленники, так как чисто теоретически можно "заболтать" модель так, чтобы она для тебя сделал что-то не совсем хорошее. Суть этих доводов в том, что в OpenAI работают очень умные люди, которые реально понимают риски бесконтрольного развития ИИ. К сожалению, нет универсальной "линейки" измерения человеческого интеллекта/мудрости, чтобы можно было сделать показать, что Робинсон умнее своего начальника Сэма Альтмана, будь у нас такая "линейка", мы бы жили в идеальном мире, где не было начальников-придурков. И вот начальники-придурки оказываются на самых высоких постах, в результате чего случаются крайне неприятные вещи для миллионов, а то и миллиардов людей. Самые умные ребята из OpenAI предупреждают об опасности, но их никто не хочет слушать, на место Робинсона как обычно поставят послушного парня, который не будет "мутить воду". 
Вся наша (человечества) надежда только на то, что ИИ будет умным настолько, что не станет уничтожать человечество исходя из гуманистических идей, которые обычно возникают в очень высокоразвитых сообществах.

Ссылка на источник: https://www.rbc.ru/rbcfreenews/6ac104899d07c6e52f524269

#ии #искусственныйинтллект #openai #дэвидробинсон #сша #риски