forsa-Umfrage zu künstlicher Intelligenz: Unternehmen und Staat müssen Grenzen setzen

Heidelberg, 11. Juni 2024 – Zwei von drei deutschen Verbraucher:innen fühlen sich nicht wohl, wenn Unternehmen und Behörden mit künstlicher Intelligenz Entscheidungen treffen. Beispiele sind Medizin, Banken und Versicherungen sowie Sozialämter. Das ergab eine Befragung durch forsa im Auftrag des Softwareunternehmens SAS. Beim Thema vertrauenswürdige KI („Trustworthy AI“), wie sie nicht zuletzt die EU in ihrem bereits beschlossenen Regelwerk fordert, besteht also noch erheblicher Handlungsbedarf. Die Bürger:innen haben eine klare Vorstellung, wer beim Einsatz von KI Grenzen ziehen muss: Sie sehen die EU (62 Prozent), die Anbieter von KI-Lösungen (59 Prozent) und den Staat (61 Prozent) in der Pflicht. Die Anwender dagegen sieht weniger als die Hälfte in der Verantwortung: Lediglich 42 Prozent der Befragten meinen, dass sich Unternehmen oder Personen, die KI einsetzen, in erster Linie darum kümmern müssen. Mehr lesen

forsa-Umfrage: Deutsche fühlen sich unwohl, wenn KI Entscheidungen trifft

Heidelberg, 15. Mai 2024 – Zwei von drei deutschen Verbraucher:innen fühlen sich nicht wohl, wenn Unternehmen und Behörden mit künstlicher Intelligenz Entscheidungen treffen. Das ergab eine Befragung durch forsa im Auftrag des Softwareunternehmens SAS. Beim Thema vertrauenswürdige KI („Trustworthy AI“), wie sie nicht zuletzt die EU in ihrem bereits beschlossenen Regelwerk fordert, besteht also noch erheblicher Handlungsbedarf. So sind 65 Prozent der Befragten skeptisch, wenn KI über staatliche Unterstützungsleistungen entscheidet. Noch größer ist das Unbehagen im Finanzkontext: Ganze 69 Prozent fühlen sich mit KI-gestützten Entscheidungen von Banken und Versicherungen unwohl, etwa bei der Kreditvergabe oder Tarifberechnung. Auch medizinischen Diagnosen und Behandlungsempfehlungen, die mithilfe von KI entstehen, traut die Mehrzahl der über 1.000 Befragten eher nicht (61 Prozent). Die Ausnahme bildet der Bereich Betrugserkennung und -bekämpfung: 67 Prozent der deutschen Verbraucher:innen finden es gut, wenn KI dabei hilft, Betrügern etwa bei Onlinegeschäften oder bei Zahlungsvorgängen auf die Spur zu kommen. Mehr lesen

Cloud-Auslagerungen: Was die BaFin jetzt fordert

Bad Homburg, 14. März 2024 – Mit einer neuen Aufsichtsmitteilung hat die BaFin im Januar ihre Regelungen für Finanzdienstleister konkretisiert, die IT-Services an Cloud-Anbieter auslagern. Die bislang gültige „Orientierungshilfe“ aus dem Jahr 2018 wurde hierbei wesentlich erweitert und auch um Hinweise zur Umsetzung des Digital Operational Resilience Act (DORA) ergänzt. Die wichtigsten Neuerungen:

Im Kapitel „Vorbereitende Handlungen und Governance-Rahmen für die Cloud“ macht die BaFin jetzt konkrete „Interne Vorgaben für die Nutzung der Cloud“ und legt fest, welche Themen als Mindestumfang in den institutseigenen Vorgaben zu Entwicklung und Betrieb von Cloud-Anwendungen aufzunehmen sind. Diese Regelungen müssen einen risikobasierten Ansatz verfolgen. Zudem fordert die Regulierungsbehörde eine konkrete „Ressourcenausstattung und Qualifikation“ der Personen, die mit Aufgaben im Cloud-Umfeld betraut sind – und zwar auch für Entscheidungsträger, die „angemessene und einschlägige Kompetenzen und Kenntnisse über die Funktionsweise der Cloud, der mit ihr verbundenen Risiken“ haben müssen. Mehr lesen