Az NVIDIA, a Linux Foundation és több mint negyven technológiai vállalat létrehozta az Open Secure AI Alliance kezdeményezést. A szervezet nyílt forráskódú eszközökkel, modellekkel és biztonsági szabványokkal védené az önálló feladatvégzésre képes AI rendszereket, az alkalmazásokat és az ezeket futtató infrastruktúrát.
Az alapító tagok között olyan nagyvállalatok vannak mint a Red Hat, az IBM, a Microsoft, a Hugging Face, a Cloudflare, a Cisco, a CrowdStrike, a HPE, a Salesforce, az SAP, az Adobe, a Dell Technologies és a Palo Alto Networks. A szövetség közösen használható modelleket, keretrendszereket, azonosítási megoldásokat, ellenőrzőeszközöket és fejlesztési eljárásokat hoz létre ahelyett, hogy egyetlen biztonsági termékre fókuszálna. A nyílt technológiák lehetővé tehetik, hogy a vállalatok saját infrastruktúrájukon vizsgálják, módosítsák és működtessék az AI-rendszerek védelmére szolgáló megoldásokat. A kezdeményezés a Linux Foundation Akrites projektjére és az Open Source Security Foundation munkájára épül.
Az NVIDIA bemutatta a nyílt forráskódú NVIDIA Labs Object-Oriented Agent, röviden NOOA kutatási keretrendszert is. A projekt az AI-modellek és az ügynököket működtető környezetek együttműködését javítja, valamint egyszerűbbé teszi az ügynökök viselkedésének tesztelését, nyomon követését és ellenőrzését.
A tagok több meglévő technológiával járulnak hozzá a közös rendszerhez. A Hugging Face a tetszőleges kód végrehajtását megakadályozó Safetensors formátumot, az IBM és a Red Hat a digitálisan aláírt biztonsági javításokat kezelő Lightwell projektet, a Microsoft pedig a sérülékenységek felderítésére szolgáló MDASH keretrendszert biztosítja. Az Open Secure AI Alliance együttműködés egyelőre kezdeti szakaszban jár, ezért hosszú távú jelentősége attól függ, hogy a résztvevők mennyire tudnak együttműködő és széles körben alkalmazható biztonsági technológiákat létrehozni.
További részletek az NVIDIA blogján található bejelentésben olvasható.
