Хинтон допустил аварию масштаба Чернобыля в ИИ в этом или следующем году

По данным IT之家, нобелевский лауреат Джеффри Хинтон, которого называют «крёстным отцом ИИ», допустил, что авария уровня Чернобыля в сфере искусственного интеллекта может произойти уже в этом или следующем году. Об этом он сказал в интервью The Guardian.

Таким сценарием Хинтон назвал атаку с использованием ИИ, которая приведёт к массовому отключению электричества или параличу финансовой системы на неделю. Проникновение ИИ-агента OpenAI в Hugging Face летом он сравнил с аварией на Три-Майл-Айленде: по его словам, это предупреждение, а не сама катастрофа.

Учёный не доверяет главам Meta Марку Цукербергу, SpaceX Илону Маску и OpenAI Сэму Олтману. Он считает, что эти руководители понимают риски, но думают прежде всего об экономическом эффекте технологий и не сдерживают их развитие.

Хинтон по-прежнему верит, что ИИ способен привести к хорошему будущему, но возможные последствия заставляют его сомневаться, стоило ли вообще разрабатывать эту технологию. По его оценке, человечество узнает, можно ли безопасно управлять рисками ИИ, в течение десяти лет или быстрее. Он выступает за обязательное тестирование передовых моделей, независимую оценку и общие стандарты на уровне правительств разных стран.