Erfolgreicher FFG Antrag: Ethische KI-Chatbots zur Gewaltprävention

CTSi startet FFG-gefördertes Projekt zur Erforschung ethischer KI-Chatbots zur Gewaltprävention, geleitet von Kevin M. Blasiak vom CTSi//circle.responsibleComputing.

Das Center for Technology-driven Social Innovation (CTSi) an der TU Wien freut sich, den Start eines neuen Sondierungsprojekts bekannt zu geben, das im Rahmen der Österreichischen Forschungsförderungsgesellschaft (FFG) durch die Innovation START – Business Edition gefördert wird. Die Initiative mit dem Titel „Sondierung KI-gestützter Chatbot-Interventionen zur Radikalisierungsprävention“ wurde von Dr. Kevin M. Blasiak initiiert und wird von ihm als wissenschaftlicher Leiter des CTSi//circle.responsibleComputing inhaltlich und konzeptionell verantwortet.

Das Projekt reagiert auf den zunehmenden Bedarf an proaktiven, skalierbaren digitalen Werkzeugen zur Prävention von Online-Radikalisierung und gewaltbereitem Extremismus. Bisherige Maßnahmen greifen oft erst, wenn Radikalisierungsprozesse bereits weit fortgeschritten sind. Dieses Projekt untersucht daher die Machbarkeit eines KI-gestützten Chatbots, der gefährdete Personen bereits in frühen Phasen erkennt und anspricht – bevor es zu einer Eskalation kommt.

Basierend auf wertsensibler Gestaltung (Value-Sensitive Design) und personalisierten Überzeugungsstrategien soll der Chatbot empathische, adaptiv gesteuerte und ethisch reflektierte Dialoge ermöglichen. Langfristiges Ziel ist es, menschliche Fachkräfte in der Präventionsarbeit digital zu unterstützen und somit eine skalierbare, plattformübergreifende Lösung mit gesellschaftlicher Wirkung zu schaffen.

Das CTSi übernimmt die wissenschaftliche Leitung des Projekts, entwickelt das konzeptionelle Rahmenwerk und verantwortet die ethische Ausrichtung. Die Forschung prüft die technische, gesellschaftliche und ethische Machbarkeit des Chatbots. Durch Stakeholder-Interviews, Design-Workshops und erste Prototypen (Low-Fidelity) werden konkrete Anwendungsfälle, Werte und Systemanforderungen definiert.

Neben den akademischen und gesellschaftlichen Zielen wird auch das Potenzial einer späteren Verwertung im Sinne eines Social-Impact-Ventures geprüft. Dazu zählt die Analyse möglicher Umsetzungspfade in Kooperation mit Technologieanbietern, Präventionseinrichtungen und Plattformbetreibern.

Vor dem Hintergrund wachsender Bedenken bezüglich KI-Missbrauchs und Online-Manipulation verfolgt das Projekt einen zukunftsorientierten Ansatz verantwortungsvoller Innovation – und positioniert ethische KI als zentrales Werkzeug zur Sicherung digitaler Räume.