Eine Gruppe von US-Justizministern fordert den Kongress auf, eine Expertenkommission zur Untersuchung des Missbrauchs von KI bei der Erstellung von kinderpornografischem Material einzurichten. Sie fordern auch eine Erweiterung der bestehenden Gesetze, um KI-generierte Inhalte ausdrücklich einzubeziehen.
Die Verführung des technologischen Fortschritts ist oft eine glänzende Medaille mit einer dunklen Kehrseite. Dies wurde jüngst von den Generalstaatsanwälten aller 50 US-Bundesstaaten und vier Territorien in einem eindringlichen Schreiben an den Kongress verdeutlicht. Sie rufen dazu auf, eine Expertenkommission einzurichten, um zu untersuchen, wie generative Künstliche Intelligenz (KI) möglicherweise dazu missbraucht wird, Kinder durch die Erstellung von kinderpornografischem Material zu gefährden.
In einer Welt, in der KI-Algorithmen die Grenzen des Möglichen erweitern, haben sich dunkle Möglichkeiten aufgetan. Open-Source-Bildsynthesetechnologien wie „Stable Diffusion“ ermöglichen es nun, KI-generierte Pornografie mühelos zu erstellen. Eine Gemeinschaft hat sich um Werkzeuge und Add-Ons gebildet, die diese Fähigkeit noch verstärken. Da diese KI-Modelle weit verbreitet und oft lokal betrieben werden, fehlen oft Schutzvorrichtungen, die verhindern, dass jemand sexualisierte Bilder von Kindern erstellt.
Die Erstellung solcher Bilder ist einfacher denn je, da jeder die KI-Werkzeuge auf seinen Computer herunterladen und Bilder erstellen kann, indem er einfach eine kurze Beschreibung dessen eingibt, was er sehen möchte. Viele dieser KI-Tools sind „Open Source“, was bedeutet, dass sie uneingeschränkt und unkontrolliert verwendet werden können. Die Generalstaatsanwälte drücken ihre Besorgnis aus, dass dies ein gefährliches Schlupfloch schafft.
Die Bedrohung durch KI endet jedoch nicht hier. Sie hat auch die Erstellung von Deepfakes von Menschen ohne deren Zustimmung mithilfe von Fotos aus sozialen Medien erleichtert. Die Generalstaatsanwälte weiten diese Besorgnis aus und erstrecken sie auf Bilder von Kindern. KI-Tools können schnell und einfach „Deepfakes“ erstellen, indem sie echte Fotos missbrauchter Kinder studieren, um neue Bilder zu generieren, die diese Kinder in sexuellen Positionen zeigen. Dies umfasst das Überlagern des Gesichts einer Person auf den Körper einer anderen.
Die dunkle Seite des technologischen Fortschritts fordert die Gesellschaft heraus, und es ist an der Zeit, die Schlacht gegen diese schattigen Auswirkungen der KI zu intensivieren. Die Rufe nach einer Expertenkommission und einer klaren gesetzlichen Regulierung sind ein wichtiger Schritt in diese Richtung.
Quelle: US-Justizministerien aller 50 Bundesstaaten und vier Territorien, Dokument als PDF .
Discussion about this post