Zur Umsetzung der EU-Verordnung über künstliche Intelligenz (EU-KI-Verordnung) wird nachfolgende Regelung erlassen:

( 1 ) 1 KI-Technologien bieten große Möglichkeiten. 2 Sie bringen zugleich Herausforderungen in der Anwendung und im Umgang mit den Ergebnissen mit sich. 3 Diese Ordnung soll den sicheren, bewussten und verantwortungsvollen Einsatz von Künstlicher Intelligenz (KI) in der Erzdiözese Freiburg gewährleisten. 4 Sie legt fest, unter welchen Voraussetzungen KI mit den sie bietenden Chancen genutzt werden darf.

( 2 ) Der Einsatz von KI-Systemen muss den Kriterien Zweckmäßigkeit, Sinnhaftigkeit und Aufgabenorientierung genügen und dem Menschen in seiner sinnstiftenden Entfaltung dienen.

( 3 ) 1 Der Einsatz von KI führt zu einem erhöhten Ressourcenverbrauch. 2 Daher ist im Sinne der Nachhaltigkeit ein verantwortungsbewusster Einsatz von KI geboten und eine Abwägung zwischen umweltfreundlicheren und ressourcenschonenderen Alternativen vorzunehmen.

( 4 ) 1 Die EU-KI-Verordnung regelt den Einsatz und die Entwicklung von KI-Systemen in der Europäischen Union. 2 Zweck dieser EU-KI-Verordnung ist es, die Einführung einer auf den Menschen ausgerichteten KI in Europa zu fördern und dabei ein hohes Schutzniveau in Bezug auf Gesundheit, Sicherheit und die Grundrechte der Bürger sicherzustellen (Artikel 1 der EU-KI-Verordnung). 3 Dazu definiert die EU-KI-Verordnung KI-Anwendungsszenarien, die von vornherein untersagt sind und solche, die voraussichtlich mit einem „hohen Risiko“ einhergehen und daher besondere Sorgfalt erfordern.

( 5 ) Die Risikoklassen nach der EU-KI-Verordnung werden für die Erzdiözese Freiburg in der Anlage dieser Ordnung spezifiziert.

Diese Ordnung gilt für die Nutzung von KI in der Erzdiözese Freiburg, insbesondere für alle Dienststellen und Einrichtungen der Erzdiözese Freiburg und der Kirchengemeinden.

( 1 ) Ein „KI-System“ ist ein maschinengestütztes System, das für einen in unterschiedlichem Grade autonomen Betrieb ausgelegt ist und das nach seiner Betriebsaufnahme anpassungsfähig sein kann und das aus den erhaltenen Eingaben für explizite oder implizite Ziele ableitet, wie Ausgaben wie etwa Vorhersagen, Inhalte, Empfehlungen oder Entscheidungen erstellt werden, die physische oder virtuelle Umgebungen beeinflussen können.¹#

( 2 ) 1 Ein „generatives KI-System“ bezeichnet ein KI-System, das auf Basis vorhandener Daten neue, synthetische Inhalte erzeugen kann, die eine abstrakte variierte Repräsentation von zuvor trainierten Daten darstellt. 2 Diese Inhalte können insbesondere Text, Bilder, Audio, Video, Programmcodes und 3D-Modelle sein. 3 Es verfügt über das Potential, Inhalte zu bearbeiten²#, deren Medialität zu transformieren³#, Informationen zu extrahieren⁴#, Datensätze zu klassifizieren oder zu interpretieren sowie komplexere Aufgaben autonom durchzuführen⁵#.

( 3 ) 1 „Information Retrieval“ ist der Prozess des Auffindens und Abrufens relevanter Informationen aus einem Datensatz oder einer Sammlung von Ressourcen. 2 Er spielt eine entscheidende Rolle beim Datenabruf und ermöglicht den effizienten Zugriff auf Informationen durch Suchalgorithmen und Techniken zur Abfrageverarbeitung.

( 4 ) „KI-Kompetenz“ beinhaltet Fähigkeiten, Kenntnisse und Verständnis, die es Anbietern, Anwendern und Betroffenen ermöglichen, KI-Systeme unter Berücksichtigung ihrer jeweiligen Rechte und Pflichten in Kenntnis der Sachlage einzusetzen und sich über die Chancen und Risiken von KI und mögliche Schäden, die sie verursachen kann, bewusst zu sein.

1 Entsprechend Artikel 4 der EU-KI-Verordnung hat der Dienstgeber die KI-Kompetenz der Mitarbeitenden sicherzustellen. 2 KI-Systeme dürfen nur von Mitarbeitenden genutzt werden, die zuvor an einer grundlegenden Schulung zum Thema „KI“ teilgenommen und dies dem Dienstgeber gegenüber über den Dienstvorgesetzten nachgewiesen haben.

( 1 ) KI-Systeme dürfen im dienstlichen Kontext ohne Genehmigung genutzt werden, wenn keine personenbezogenen, vertraulichen, internen, betrieblichen oder sicherheitsrelevanten Daten verarbeitet oder eingegeben werden.

( 2 ) 1 Für die Nutzung von KI-Systemen, die nicht unter Absatz 1 fallen, ist grundsätzlich eine vorherige Genehmigung durch die Stabsstelle Informationstechnik und den Dienstvorgesetzten erforderlich. 2 Dies gilt insbesondere in den Fällen, in denen eine der folgenden Bedingungen vorliegt:

( 3 ) Eine Genehmigung nach Absatz 2 darf nur erteilt werden, sofern keine technischen, sicherheitsrelevanten oder datenschutzrechtlichen Belange entgegenstehen.

( 4 ) KI darf in der Erzdiözese Freiburg ausschließlich im Kontext der Risikoklassen 4 (Minimales Risiko) und 3 (Geringes Risiko) gemäß dem Anhang dieser Ordnung eingesetzt werden.

( 5 ) Die Nutzungsbedingungen des Anbieters des KI-Systems sind zwingend einzuhalten.

( 1 ) 1 Die Eingabe von Daten muss rechtlich zulässig sein. 2 Insbesondere darf sie nicht gegen Datenschutz-, Urheber- oder Markenrecht verstoßen. 3 Es ist untersagt, Inhalte abzurufen, zu verbreiten oder zu speichern, die gegen Persönlichkeits-, Datenschutz-, Lizenz-, Urheber- oder Strafrecht verstoßen.

( 2 ) 1 Eine Eingabe von vertraulichen und/oder personenbezogenen Daten auf öffentlichen frei zugänglichen KI-Plattformen ist stets untersagt. 2 Dazu gehören Dienst- und Geschäftsgeheimnisse, steuerlich geschützte Informationen, personenbezogene Daten sowie sicherheitsrelevanter interner Programmcode. 3 Inhalte aus Verschlusssachen dürfen nicht eingegeben werden. 4 Verstöße gegen das Dienstgeheimnis oder besondere Geheimhaltungspflichten können dienst- und strafrechtliche Konsequenzen haben.

( 3 ) 1 Eine ungeprüfte Übernahme von KI-generierten Inhalten ist nicht zulässig. 2 KI-Systeme sind nur einzusetzen, wenn der Mensch aktiv am Betrieb, der Überwachung oder der Entscheidungsfindung eingebunden ist.

( 1 ) 1 KI-generierte Inhalte sind vor ihrer Verwendung auf ihre Richtigkeit bzw. Plausibilität, Angemessenheit und Diskriminierungs- und Bias-Freiheit zu prüfen. 2 Texte sind zudem einer redaktionellen Kontrolle zu unterziehen.

( 2 ) 1 Insbesondere bei von KI-Systemen erzeugten Texten und Bildern ist darauf zu achten, dass diese keine Reproduktion urheberrechtlich geschützter Werke darstellen. 2 Bei Zweifeln hat die Verwendung zu unterbleiben.

( 3 ) 1 Bevor Informationen aus externen Quellen wie insbesondere aus KI-gestützten Suchmaschinen, Social Media oder Internet übernommen oder in eigene Entscheidungsprozesse oder dienstliche Erledigungen einfließen, sind diese kritisch zu hinterfragen und auf Nachvollziehbarkeit zu prüfen. 2 Insbesondere generative KI-Systeme stellen kein Wissensmanagementsystem dar.

( 4 ) 1 Zur Vermeidung von Desinformation und Täuschung und ihre schnelle Verbreitung in sozialen Medien sind Faktenchecks durchzuführen. 2 Dabei sind KI-generierte Inhalte auf ihren Wahrheitsgehalt zu überprüfen, um echte von verfälschten Inhalten zu unterscheiden. 3 Dies gilt insbesondere in Bezug auf potenziell von KI-Werkzeugen generierte verfälschte bzw. manipulierte Bilder. 4 Auf diese Weise wird die Glaubwürdigkeit von Medieninhalten der Erzdiözese Freiburg sichergestellt.

1 Wenn generative KI-Systeme für die Erstellung von Texten, Bildern oder sonstigen Inhalten verwendet werden, ist dies durch eine Kennzeichnung in einer Fußzeile, einer Bildunterschrift oder auf sonstige eindeutige Weise transparent zu machen. 2 Dies gilt nicht für Rechtschreibprüfungen oder Übersetzungsprogramme.

Diese Ordnung tritt am 5. März 2026 in Kraft.