Meta попереджає про можливі “катастрофічні наслідки” майбутніх AI-моделей

Meta

У документі під назвою “Frontier AI Framework” Meta визначає два типи AI-систем, які вважає надто ризикованими для випуску: “високоризикові” та “критично ризикові” системи. “Критично ризикові” системи можуть призвести до “катастрофічних наслідків, які неможливо пом’якшити в запропонованому контексті використання”. Прикладом такого ризику є AI, здатний автоматично зламувати навіть найзахищеніші комп’ютерні мережі без участі людини.

Meta планує негайно припиняти роботу над моделями, які становлять критичний ризик, і вживати заходів для запобігання їх випуску. Однак компанія визнає, що повністю гарантувати безпеку може бути складно, зазначаючи, що доступ до таких моделей буде суворо обмежений невеликою кількістю експертів, а також будуть впроваджені заходи безпеки для запобігання зламу або витоку інформації настільки, наскільки це технічно можливо та комерційно доцільно.

Цей крок підкреслює зростаюче усвідомлення потенційних небезпек, пов’язаних із розвитком передових AI-технологій, та необхідність впровадження строгих заходів контролю для забезпечення їх безпечного використання.

Схожі Новини
Відеокарта

Nvidia ставить штучний інтелект у пріоритет, відкладаючи випуск нових відеокарт

Nvidia активно інвестує в розробку технологій штучного інтелекту, що призводить до затримок у випуску нових продуктів для споживчого ринку, зокрема відеокарт серії RTX 5000.
Детальніше
Instagram

Instagram тестує кнопку для зниження рейтингу коментарів

Instagram впроваджує нову функцію — кнопку у вигляді стрілки вниз поруч із коментарями, яка дозволяє користувачам приватно вказати на небажані або недоречні коментарі. За словами керівника Instagram Адама Моссері, кількість таких "дизлайків" не буде публічно відображатися. Однак у майбутньому ці сигнали можуть бути використані для зниження рейтингу небажаних коментарів, роблячи їх менш помітними.
Детальніше
Amazon Kindle

Amazon припиняє можливість завантаження та резервного копіювання Kindle-книг через USB

Amazon оголосила, що з 26 лютого 2025 року функція "Завантажити та передати через USB" більше не буде доступною. Раніше ця опція дозволяла користувачам завантажувати придбані Kindle-книги на комп'ютер і вручну переносити їх на пристрій через USB-кабель. Це було корисно для тих, хто не мав доступу до Wi-Fi, а також для створення резервних копій книг або їх конвертації в інші формати, сумісні з іншими рідерами.
Детальніше