Накануне Илон Маск, Стив Возняк, а также более 1 000 других экспертов в области искусственного интеллекта призвали мировое сообщество остановить на полгода обучение ИИ-систем. Специалисты написали открытое письмо, в котором рассказали, к чему может привести бесконтрольное развитие искусственного интеллекта.
Так, авторы письма призывают ввести полугодовой мораторий на разработку ИИ до того, как для отрасли разработают общие протоколы безопасности. Мощные ИИ-системы должны развиваться лишь после того, как человечество убедится, что риски, которые они несут, управляемы.
Кроме того, специалисты сообщают о возможных угрозах для всей цивилизации со стороны ИИ-систем, способных конкурировать с людьми: в будущем это может привести к экономическим или политическим потрясениям.
Письмо подписано многими известными в IT-индустрии людьми и опубликовано некоммерческим институтом Future of Life: идея разместить его публично возникла после того, как к обеспокоенным экспертам присоединился Европол, предупредивший о возможности злоупотребления злоумышленниками системами вроде ChatGPT - их можно использовать для фишинга, дезинформации и совершения киберпреступлений.
Источник фото: