EU AI Act-positie van Jarvis: de rol volgt de use case.
Jarvis is een orkestratie- en geheugenlaag. De juridische rol en risicocategorie kunnen per klanttoepassing verschillen.
Vier mogelijke rollen, en het product kiest er geen een vooraf
Wie een pagina zoekt waarop staat welke rol wij onder de AI Act hebben, vindt hier een lijst met vier vakjes die allemaal leeg zijn. Dat is geen slordigheid. De rol volgt uit de concrete klanttoepassing en wordt voor livegang bepaald, aan de functionaliteit, de contracten en de modelketen getoetst.
Geen algemene vrijbrief
Zoek je welke AI wij gebruiken en waarvoor? Dat staat op de pagina over AI-transparantie. Die tekst geldt voor de hele site en voor al onze software. Deze pagina gaat over iets anders: welke rol wij onder de EU AI Act innemen bij Jarvis en wat dat voor jouw inzet betekent.
Wij bepalen per inzet of wij aanbieder, gebruiksverantwoordelijke, distributeur of een andere actor zijn
Ook de klant kan verplichtingen hebben. Deze positie wordt vóór livegang aan de concrete functionaliteit, contracten en modelketen getoetst.
Ontwerpregels
- AI-output wordt herkenbaar als AI-ondersteund waar transparantie dat vereist;
- bronherkomst, versie en menselijke beoordeling worden vastgelegd;
- agents krijgen beperkte tools en acties;
- gebruikers ontvangen instructies over beperkingen en passend toezicht;
- incidenten en materiële modelwijzigingen krijgen een review.
Niet zonder afzonderlijke beoordeling
Jarvis wordt niet standaard ingezet voor verboden praktijken of voor hoog-risicobesluiten over onder meer werk, onderwijs, krediet, essentiële diensten, biometrie of rechtshandhaving. Een klant mag een algemene AI-assistent niet stil ombouwen tot een gereguleerd beslissysteem.
Transparantie en AI-geletterdheid
De organisatie moet weten wanneer zij AI gebruikt, welke bronnen en beperkingen gelden en wie eindverantwoordelijk is. Onboarding en documentatie ondersteunen dat, maar vervangen geen rolgerichte training.
Wijzigingen
De EU AI Act, richtsnoeren en nationale uitvoering ontwikkelen door. Wijzigingen daarin volgen wij; publicatie en contractimpact vereisen altijd menselijke review.
En de ombouw die een klant niet stil mag doen
Deze zes staan met naam en toenaam in de tekst hieronder. Ze zijn niet verboden terrein, ze vragen een afzonderlijke beoordeling. Onderaan staat het scenario waar deze pagina eigenlijk over gaat: een algemene assistent die geleidelijk een beslissysteem wordt zonder dat iemand die stap heeft gezet.
Alles in het vertrouwenscentrum staat met naam en stand
Dit onderdeel hoort bij het vertrouwenscentrum van Jarvis. Elk document staat er met naam, status en versie, en botst een toelichting met een document, dan wint het document.