von Hinindil » Mo 11. Dez 2023, 14:41
Loli hat geschrieben: ↑So 10. Dez 2023, 23:10
Wenn bei einem Checkpoint, einer LoRA oder sonst was bekannt ist, dass illegales Material zum Füttern genutzt wurde, wird es höchstwahrscheinlich auch illegal sein, wenn man diese Models dennoch nimmt. Zur Unwissenheit könnte man sagen: Man hätte sich über das Model informieren müssen.
Aber kann man das von jeden Nutzer erwarten? Wie soll ich das wissen, welche Daten genau benutzt worden sind? Klar, bei vielen Modellen steht das in der Beschreibung, aber bei anderen? Wäre die Nutzung eines solchen Modells dann immer die Herstellung eines Derivats der Trainingsdaten? Angenommen, wir haben 10000 Trainingsbilder und bei einem wird festgestellt, dass es sich um Kinderpornographie nach dem 184b handelt. Sind dann alle jemals mit diesem Modell generierten Bilder automatisch Kinderpornographie? Vermutlich nicht, sonst würde ja theroretisch auch ein Bild eines Tisches Kinderpornographie werden, was nonsense ist. Aber wo beginnt dann die Grenze der Illegalität? Ich glaube nicht, dass man den Nutzer eines Modells für die Trainingsinhalte verantwortlich machen kann oder die Ausgaben als Derivat sehen kann. Ich würde mir nur die Ausgaben anschauen.
Aber für KiPo aus KI hätte ich einen anderen Lösungsvorschlag, der aber drastische Gesetzesänderungen notwendig macht. Außerdem müsste man sich dann die Frage nach der Legalität der Produktion nicht-wirklichkeitsnaher KiPo stellen. Jedes Modell (inklusive LoRAs und so weiter und so fort), das zur Herstellung virtueller KiPo legal benutzt werden darf, braucht ein kryptographisches Zertifikat, das von einer dafür vorgesehenen Stelle ausgestellt wird. Dazu muss der Hersteller des Modells alle Informationen zum Modell (Quellcode, Bildmaterial, Trainingsparameter, etc) bereitstellen. Sofern diese den Zertifizierungsvorgang bestehen (also z.B. nur Material legales Material verwendet wurde), wird ein kryptographisches Zertifikat ausgestellt. Die Behörden behalten das Modell als Refernz.
Wird nun mit so einem zertifizierten Modellsystem (jedes Modell, LoRA, und so weiter muss selbstverständlich extra zertifiziert werden) KiPo generiert müssen sämtliche Eingabeparameter in den Meta-Informationen des Bildes hineingeschrieben werden, das Bild selbst wird mit Hilfe des kryptographischen Zertifikats der Modelle signiert.
Wird nun dem Besitzer dieser Dateien Straftaten des 184b im Zusammenhang mit diesen generierten Bildern vorgeworfen, können die Strafverfolgungsbehörden ganz einfach und automatisiert die Bilder überprüfen: Bilder mit einer validen Signatur, bei denen das Refernzmodell des Herstellers mit den identischen Parametern das Bild repliziert werden kann, gelten dann als legal. Andere Bilder werden entsprechend dem 184b genauso behandelt, wie es jetzt auch schon ist.
[quote=Loli post_id=75901 time=1702246226 user_id=1055]
Wenn bei einem Checkpoint, einer LoRA oder sonst was bekannt ist, dass illegales Material zum Füttern genutzt wurde, wird es höchstwahrscheinlich auch illegal sein, wenn man diese Models dennoch nimmt. Zur Unwissenheit könnte man sagen: Man hätte sich über das Model informieren müssen.
[/quote]
Aber kann man das von jeden Nutzer erwarten? Wie soll ich das wissen, welche Daten genau benutzt worden sind? Klar, bei vielen Modellen steht das in der Beschreibung, aber bei anderen? Wäre die Nutzung eines solchen Modells dann immer die Herstellung eines Derivats der Trainingsdaten? Angenommen, wir haben 10000 Trainingsbilder und bei einem wird festgestellt, dass es sich um Kinderpornographie nach dem 184b handelt. Sind dann alle jemals mit diesem Modell generierten Bilder automatisch Kinderpornographie? Vermutlich nicht, sonst würde ja theroretisch auch ein Bild eines Tisches Kinderpornographie werden, was nonsense ist. Aber wo beginnt dann die Grenze der Illegalität? Ich glaube nicht, dass man den Nutzer eines Modells für die Trainingsinhalte verantwortlich machen kann oder die Ausgaben als Derivat sehen kann. Ich würde mir nur die Ausgaben anschauen.
Aber für KiPo aus KI hätte ich einen anderen Lösungsvorschlag, der aber drastische Gesetzesänderungen notwendig macht. Außerdem müsste man sich dann die Frage nach der Legalität der Produktion nicht-wirklichkeitsnaher KiPo stellen. Jedes Modell (inklusive LoRAs und so weiter und so fort), das zur Herstellung virtueller KiPo legal benutzt werden darf, braucht ein kryptographisches Zertifikat, das von einer dafür vorgesehenen Stelle ausgestellt wird. Dazu muss der Hersteller des Modells alle Informationen zum Modell (Quellcode, Bildmaterial, Trainingsparameter, etc) bereitstellen. Sofern diese den Zertifizierungsvorgang bestehen (also z.B. nur Material legales Material verwendet wurde), wird ein kryptographisches Zertifikat ausgestellt. Die Behörden behalten das Modell als Refernz.
Wird nun mit so einem zertifizierten Modellsystem (jedes Modell, LoRA, und so weiter muss selbstverständlich extra zertifiziert werden) KiPo generiert müssen sämtliche Eingabeparameter in den Meta-Informationen des Bildes hineingeschrieben werden, das Bild selbst wird mit Hilfe des kryptographischen Zertifikats der Modelle signiert.
Wird nun dem Besitzer dieser Dateien Straftaten des 184b im Zusammenhang mit diesen generierten Bildern vorgeworfen, können die Strafverfolgungsbehörden ganz einfach und automatisiert die Bilder überprüfen: Bilder mit einer validen Signatur, bei denen das Refernzmodell des Herstellers mit den identischen Parametern das Bild repliziert werden kann, gelten dann als legal. Andere Bilder werden entsprechend dem 184b genauso behandelt, wie es jetzt auch schon ist.