Erstes KI-Gesetz der Welt?

[Takeru]

Gestern hat das EU-Parlement für ein KI-Gesetz abgestimmt.

https://netzpolitik.org/2023/ki-verordn ... ompromiss/

Genau wie ich habe jetzt viele bestimmt Fragen dazu, denn der genaue Gesetzestext ist noch nicht veröffentlicht. Aber auch für KI-Generatoren die Basis-Model nutzen scheint es Einschränkungen zu geben. Daher habe ich jetzt mal dieses Thema eröffnet.
Damit alle Informationen zu diesem Thema zusammen getragen werden können.

Es geht ja nicht darum die neuen Regelungen zum Umgehen. Es soll darum gehen das Gesetz in verständliche Form zu übermittelt, damit jeder dann weiß wie er damit umgehen soll und kann.

Für mich sind diese Fragen aktuell am unklarsten:
1. Welche Basismodel sind dann noch erlaubt
2. Wird ein Unterschied zwischen Realistisch und CGI gemacht und wie erkenne man das?
3. Was muss ich beachten wenn ich für mich KI-Bilder erstelle?
4. Was muss ich wissen wenn ich meine KI-Bilder veröffentlichen will.

Wer Informationen zu diesem Thema hat, kann diese gern hier mit einbringen.

[Loli]

Für KI-Bilder mit Kindern drauf gelten nehme ich an die Gesetze von §184b StGB. T2I KIs werden die Gesetzesgeber nie richtig verstehen können um faire/sinnvolle Maßnahmen vorzunehmen. Es lässt sich immerhin nicht zurückverfolgen, aus welchem Füttermaterial das generierte Bild zustande gekommen ist. Außerdem reicht es nicht vereinzelt Checkpoints zu verbieten. Mit passenden LoRAs, Embeddings und Hypernetworks lässt sich aus jedem Anime Model Loli Bilder und aus fast jedem Realistic Model echtaussehende Kinder generieren. Sie müssten daher eigentlich ALLES verbieten um sicherzugehen.

Zwischen CGI und Realistisch zu unterscheiden ist unmöglich, da es jeder für sich entscheiden muss. Formal ausgedrückt ist es dann CGI, wenn es von einem nicht-sachverständigen Beobachter als Computergrafik deklariert wird. Aber kein Mensch kann das voraussehen, daher ist es am besten, es gar nicht darauf ankommen zu lassen und eindeutig unter der Grenze zu bleiben.

Wenn bei einem Checkpoint, einer LoRA oder sonst was bekannt ist, dass illegales Material zum Füttern genutzt wurde, wird es höchstwahrscheinlich auch illegal sein, wenn man diese Models dennoch nimmt. Zur Unwissenheit könnte man sagen: Man hätte sich über das Model informieren müssen.

[Hinindil]

Wenn bei einem Checkpoint, einer LoRA oder sonst was bekannt ist, dass illegales Material zum Füttern genutzt wurde, wird es höchstwahrscheinlich auch illegal sein, wenn man diese Models dennoch nimmt. Zur Unwissenheit könnte man sagen: Man hätte sich über das Model informieren müssen.

Aber kann man das von jeden Nutzer erwarten? Wie soll ich das wissen, welche Daten genau benutzt worden sind? Klar, bei vielen Modellen steht das in der Beschreibung, aber bei anderen? Wäre die Nutzung eines solchen Modells dann immer die Herstellung eines Derivats der Trainingsdaten? Angenommen, wir haben 10000 Trainingsbilder und bei einem wird festgestellt, dass es sich um Kinderpornographie nach dem 184b handelt. Sind dann alle jemals mit diesem Modell generierten Bilder automatisch Kinderpornographie? Vermutlich nicht, sonst würde ja theroretisch auch ein Bild eines Tisches Kinderpornographie werden, was nonsense ist. Aber wo beginnt dann die Grenze der Illegalität? Ich glaube nicht, dass man den Nutzer eines Modells für die Trainingsinhalte verantwortlich machen kann oder die Ausgaben als Derivat sehen kann. Ich würde mir nur die Ausgaben anschauen.

Aber für KiPo aus KI hätte ich einen anderen Lösungsvorschlag, der aber drastische Gesetzesänderungen notwendig macht. Außerdem müsste man sich dann die Frage nach der Legalität der Produktion nicht-wirklichkeitsnaher KiPo stellen. Jedes Modell (inklusive LoRAs und so weiter und so fort), das zur Herstellung virtueller KiPo legal benutzt werden darf, braucht ein kryptographisches Zertifikat, das von einer dafür vorgesehenen Stelle ausgestellt wird. Dazu muss der Hersteller des Modells alle Informationen zum Modell (Quellcode, Bildmaterial, Trainingsparameter, etc) bereitstellen. Sofern diese den Zertifizierungsvorgang bestehen (also z.B. nur Material legales Material verwendet wurde), wird ein kryptographisches Zertifikat ausgestellt. Die Behörden behalten das Modell als Refernz.
Wird nun mit so einem zertifizierten Modellsystem (jedes Modell, LoRA, und so weiter muss selbstverständlich extra zertifiziert werden) KiPo generiert müssen sämtliche Eingabeparameter in den Meta-Informationen des Bildes hineingeschrieben werden, das Bild selbst wird mit Hilfe des kryptographischen Zertifikats der Modelle signiert.
Wird nun dem Besitzer dieser Dateien Straftaten des 184b im Zusammenhang mit diesen generierten Bildern vorgeworfen, können die Strafverfolgungsbehörden ganz einfach und automatisiert die Bilder überprüfen: Bilder mit einer validen Signatur, bei denen das Refernzmodell des Herstellers mit den identischen Parametern das Bild repliziert werden kann, gelten dann als legal. Andere Bilder werden entsprechend dem 184b genauso behandelt, wie es jetzt auch schon ist.

[Hinindil]

Es geht ja nicht darum die neuen Regelungen zum Umgehen. Es soll darum gehen das Gesetz in verständliche Form zu übermittelt, damit jeder dann weiß wie er damit umgehen soll und kann.

Der Press Release des Parlaments ist hier: https://www.europarl.europa.eu/news/en/ ... tworthy-ai

Der Text wäre hier (aber nur die Änderungen): https://www.europarl.europa.eu/doceo/do ... ml#sdocta6
Der Vorschlag der Kommission ist hier: https://eur-lex.europa.eu/legal-content ... 2021PC0206

Die generativen KI-Modelle bleiben alle erlaubt. Sie müssen nur irgendwie mitteilen, dass sie eine KI sind (wie auch immer das bei einem Bildgenerator gehen soll. Im Zweifel musst du es halt dazu schreiben (Es gibt Ausnahmen, also wenn die Polizei KI-Systeme nutzt um wirklichkeitsnahme KiPo zu generieren um Straftäter zu fangen, dann muss sie natürlich nicht mitteilen, dass das Material von einem KI-System generiert wurde).

[Acb]

Das wird alles niemals so kommen, denn die Welt scheitert bereits an Texten und Zeichnungen, die jeder hier und jetzt sofort herstellen kann.

Warum sollte jetzt die Kehrtwende kommen? Je mehr Fälle, umso besser kann man es instrumentalisieren. Neulich erst im SPIEGEL. Da wird über die Gefahren von KI berichtet und gesagt:

"Realistische Bild- und Audio Aufnahmen bspw. von Präsident Putin, der Europa den Krieg erklärt. Aber es kommt noch schlimmer; Kriminelle nutzen KI um Kinderpornographie herzustellen, welche sich von echten Aufnahmen nicht unterscheiden lässt."

Fiktive Bilder sind schlimmer als eine Kriegserklärung.