Власник Twitter, SpaceX і Tesla Ілон Маск, співзасновник Apple Стів Возняк та інші видні діячі у сфері технологій підписали відкритий лист із проханням зупинити як мінімум на шість місяців навчання систем штучного інтелекту (ШІ) потужніше, ніж GPT-4.
"Ми закликаємо всі лабораторії ШІ негайно призупинити як мінімум на шість місяців навчання всіх ШІ систем, які за потужністю перевершують GPT-4", — йдеться у листі, опублікованому в середу на сайті некомерційної організації Future of Life Institute.
Зазначається, що всі розробники ШІ, на думку авторів листа, повинні використовувати цей час для спільної розробки та запровадження протоколів безпеки для просунутих систем. Розробникам необхідно сфокусуватися на тому, щоб зробити сучасні ШІ безпечнішими, інтерпретованішими, транспарентними.
Лист, крім Маска та Возняка, підписали співзасновник Skype Яан Таллінн, співзасновник Pinterest Еван Шарп, а також багато інших діячів у технологічній сфері та професори з різних університетів.
"Системи ШІ з інтелектом, який може змагатися з людським, можуть надавати серйозний ризик для суспільства та людства, це позначається у великих дослідженнях та визнається найкращими ШІ лабораторіями", — кажуть автори листа.
На їхню думку, останнім часом лабораторії ШІ все більш активно розробляють потужні "цифрові уми", які на даному етапі ніхто не здатний зрозуміти, передбачити чи надійно контролювати. Сучасні ШІ можуть змагатися з людьми в базових завданнях, і в листі виражаються побоювання у зв'язку з тим, що вони здатні перевантажити інформаційні канали пропагандою, відібрати роботи у людей і загалом "замінити" їх.
Потужні системи ШІ повинні розроблятися тільки після того, як людство набуде впевненості в їхній користі, а всі ризики, пов'язані з ними, можна буде взяти під контроль, кажуть автори листа.
GPT-4 або Generative Pre-trained Transformer 4 є великою мовною моделлю, розробленою американською компанією OpenAI. Вона була випущена 14 березня 2023 року. GPT-4 здатна читати та аналізувати тексти, а також генерувати до 25 тис. слів. Одним із засновників OpenAI є Ілон Маск.
