NVIDIA har nyligen blivit medlem i US Artificial Intelligence Safety Institute Consortium (AISIC), som är en del av National Institute of Standards and Technologys ansträngningar för att främja säker och pålitlig AI-utveckling och implementering. AISIC:s fokus ligger på att skapa verktyg, metoder och standarder för att främja utvecklingen och distributionen av AI på ett säkert och pålitligt sätt.
Som medlem i AISIC kommer NVIDIA att samarbeta med NIST och andra konsortiummedlemmar för att främja konsortiets mål och mål. NVIDIAs engagemang i AISIC bygger på företagets erfarenhet av att arbeta med olika intressenter för att säkerställa en säker och ansvarsfull utveckling och distribution av AI.
NVIDIA är aktivt involverat i flera utvecklingsinitiativ som syftar till att främja AI-säkerhet, inklusive NeMo Guardrails, en programvara med öppen källkod utformad för att säkerställa noggrannheten, lämpligheten och säkerheten för svar på stora språkmodeller. 2023 godkände företaget Biden Administrations frivilliga AI-säkerhetsåtaganden och tillkännagav också ett bidrag på 30 miljoner dollar till US National Science Foundations National Artificial Intelligence Research Resource pilotprogram.
Genom AISIC syftar NIST till att främja kunskapsdelning, tillämpad forskning och utvärderingsaktiviteter för att driva innovation inom pålitlig AI. AISIC-medlemmar, inklusive ledande AI-skapare, akademiker, regerings- och industriforskare och civilsamhällesorganisationer, tar med sig teknisk expertis inom olika områden relaterade till AI-styrning, system och utveckling, psykometri och mer.
Förutom att delta i arbetsgrupper planerar NVIDIA att använda datorresurser och bästa praxis för att implementera ramverk för AI-riskhantering och AI-modelltransparens. Företaget kommer också att utnyttja flera NVIDIA-utvecklade, öppen källkod för AI-säkerhet, red-teaming och säkerhetsverktyg för att stödja AISIC:s mål.
