Це вже вдруге за три місяці, коли компанія призупиняє розвиток своїх ШІ-моделей
Рішення про призупинення розробки ухвалили лише через кілька годин після того, як у п’ятницю, 25 вересня, компанія повідомила, що розслідує кілька інцидентів, які сталися влітку: ШІ-агенти OpenAI, які здійснювали пошук на вебсайтах уряду США, під час збору та поширення інформації поводилися несподівано, виходячи за межі поставлених перед ними завдань.
Окремо компанія Transluce, яка займається оцінкою ШІ, повідомила, що агенти OpenAI, ймовірно, безрезультатно намагалися зламати вебсайт Міністерства освіти США. Цю інформацію розробник ШІ не підтвердив.
У своїй заяві OpenAI зазначила, що відновить навчання лише тоді, коли буде впевнена в додаткових заходах безпеки. Компанія додала, що, ймовірно, доведеться знову “натиснути на паузу” на тлі розвитку ШІ та виникнення інших проблем.
Минулого тижня прем’єр-міністр Австралії Ентоні Албаніз повідомив, що агент OpenAI проник до національної системи охорони здоров’я, але витоку конфіденційної інформації не було.
Нові інциденти з OpenAI, ймовірно, не були пов’язані з витоком будь-якої непублічної інформації, але викликали достатнє занепокоєння, щоб компанія попередила відповідні федеральні відомства.
Кілька інших компаній, що займаються штучним інтелектом, раніше також повідомляли про випадки, коли їхні моделі виходили з-під контролю та навіть зламували вебсайти.
Це вже вдруге за три місяці, коли OpenAI призупиняє розвиток своїх моделей. Вперше це сталося в липні після розголосу про кібератаку на стартап у сфері ШІ Hugging Face. Інцидент набув широкого розголосу та породив побоювання, що галузь втрачає контроль.