Open Secure AI Alliance Ditubuhkan NVIDIA, Hugging Face, Dell dan Pemain Industri Untuk Keselamatan AI

NVIDIA menubuhkan Open Secure AI Alliance bersama Adobe, CrowdStrike, Hugging Face, Dell dan pelbagai lain pemain industri bagi membangunkan serta berkongsi alat keselamatan kecerdasan buatan (AI) dan sekuriti siber.

Open Secure AI Alliance ditubuhkan selepas insiden ejen AI dibangunkan OpenAI yang terlepas kawalan telah melakukan pencerobohan ke sistem Hugging Face. Kesemua ini dilakukan tanpa arahan diberikan serta sistem keluar daripada ruang kawalan sandbox OpenAI.

NVIDIA turut menegaskan dunia memerlukan model tertutup dan terbuka. Untuk keselamatan siber, model terbuka dan adalah penting kerana ia mendemokrasikan keupayaan pertahanan, meningkatkan ketelusan untuk pertahanan, membolehkan pertahanan siber sambil melindungi data dan melengkapi model tertutup perbadasan dengan kawalan setempat yang boleh disesuaikan. terbuka membolehkan pertahanan kendiri dan dipacu komuniti yang diedarkan secara besar-besaran – tanpa sebarang titik kegagalan.

Model terbuka, seperti mana-mana teknologi yang berkuasa, boleh disalahgunakan — termasuk melalui percubaan untuk melemahkan perlindungan atau menggunakan semula keupayaan untuk serangan siber — tetapi risiko tersebut bukanlah unik untuk sistem terbuka, dan ia mesti diuruskan di mana sahaja AI canggih digunakan.

Kenyataan dikeluarkan selepas muncul ura-ura Amerika Syarikat ingin mengharamkan pengguna model AI berat terbuka keluaran China kerana dilihat sebagai mendatangkan risiko keselamatan. Cadangan dipertimbangkan selepas melihat 70% model AI yang digunakan syarikat utama di Amerika kini adalah dari jenis terbuka yang ditawarkan percuma sehingga dilihat boleh merugikan usaha syarikat tempatan.