Tworzysz modele, dla których napisano pierwszą regulację dotyczącą AI.
Dla start-upów AI, które muszą spełniać wymagania inżynierskie z Aktu o AI UE (logowanie, zarządzanie danymi) oraz wymagania SOC 2 i GDPR, które klienci już teraz stawiają.
Startupy AI podlegają regulacjom z dwóch stron jednocześnie. Klienci żądają znanych im rzeczy: odpowiedzi dotyczących SOC 2 i GDPR, zanim wyślą dane do twoich modeli. A jeśli twój system trafi do zakresu wysokiego ryzyka Aktu o AI UE, akt ten nakłada obowiązki, które są artefaktami inżynierskimi, a nie politykami: prowadzenie dokumentacji przez cały okres istnienia systemu, zarządzanie danymi, które go trenowały. Obie kategorie obowiązków zmieniają się w pull requestach, często w szybko zmieniającym się kodzie potoku, który zespół AI refaktoryzuje co tydzień.
Obowiązki Aktu żyją w twoim potoku
To, czego Akt o AI wymaga od systemu wysokiego ryzyka, brzmi jak lista kontrolna przeglądu kodu: zachowuj automatyczne logi zdarzeń systemu (Art. 12), zarządzaj danymi używanymi do trenowania (Art. 10). Te właściwości zanikają tak samo jak pokrycie testów, za każdym razem, gdy ktoś usuwa coś wygodnego. heygrc został zaprojektowany, aby czytać każdą zmianę w kontekście wybranych przez ciebie ram i cytować artykuł lub kontrolę, której dotyczy, aby ślad potrzebny do oceny zgodności nie zniknął cicho w PR czyszczącym.
Nie klasyfikuje poziomu ryzyka twojego systemu ani nie przeprowadza oceny zgodności, a to, czy Akt cię dotyczy, to twoja własna ocena. Wychwytuje jednak zmiany, które osłabiają dokumentację, niezależnie od wszystkiego, czego chcą także soczewki SOC 2 i GDPR.
Zmiany, które wyglądają jak zwykły kod.
Kilka zmian istotnych dla kontroli, które heygrc został zaprojektowany do flagowania w tym przypadku, każda z odwołaniem do klauzuli, której dotyczy.
Inference logging is removed from a decision system
EU AI Act Art. 12A training pipeline adds a data source with no governance record
EU AI Act Art. 10A user-deletion job skips the vector store
GDPR Art. 17
Frameworki, które mają tu największe znaczenie.
Przewodnik: Sprawdzanie zgodności dla kodu generowanego przez AI
heygrc flaguje zmiany istotne dla kontroli i cytuje klauzulę, aby problem mógł zostać rozwiązany w pull request. Nie certyfikuje Cię, nie przeprowadza audytu ani nie zastępuje Twojej własnej oceny.