Unsere Teilnahme an der internationale Konferenz “Terrorism And Social Media” (TASM) 2024, die am 18. und 19. Juni auf dem Bay Campus der Swansea University stattfand.

Als Leiter des CTS//circle.responsibleComputing an unserem Center for Society and Technology (CTS) hatte ich das Glück, an dieser bedeutenden Veranstaltung teilzunehmen und einen Beitrag zur Gemeinschaft von Fachleuten im Bereich Terrorismus und soziale Medien zu leisten. Meine Teilnahme wurde vom CTS gesponsert, was das Engagement des CTS für die dringendsten Fragen an der Schnittstelle von Gesellschaft und Technologie unterstreicht.

Zentrale Themen und Erkenntnisse des ersten Tages

Der erste Konferenztag drehte sich um die sich entwickelnden Taktiken extremistischer und terroristischer Gruppen in der digitalen Landschaft. Die Präsentationen deckten ein breites Themenspektrum ab, darunter die Nutzung neuer Technologien und Web3, der strategische Einsatz von Gaming-Plattformen und visuellen Medien sowie die Verbreitung von manipulierten Informationen durch schädliche Einflusskampagnen.

Ein herausragender Moment war die Keynote von Brian Fishman, Mitbegründer von Cinder und ehemaliger Global Head of Dangerous Organizations bei Facebook (jetzt Meta). Fishman lieferte eine tiefgehende Analyse darüber, wie sich extremistische Organisationen an die sich verändernden Online-Umgebungen angepasst haben und bot sowohl historische Einblicke als auch zukunftsgerichtete Perspektiven. Seine Betonung der Bedeutung präventiver Strategien im Kampf gegen diese Gruppen fand großen Anklang beim Publikum.

Die anschließenden Breakout-Sitzungen boten eine Fülle von Wissen zu spezifischen Unterthemen. Besonders aufschlussreich waren die Diskussionen über die Rolle von Gaming-Plattformen als Rekrutierungswerkzeuge für extremistische Gruppen. Da Gaming-Communities weiter wachsen, ist das Potenzial, dass diese Plattformen von böswilligen Akteuren missbraucht werden, eine Sorge, die sowohl von politischen Entscheidungsträgern als auch von Technologieunternehmen dringend angegangen werden muss.

Tag Zwei: Fokus auf Reaktionen und Interventionen

Der zweite Tag verlagerte den Fokus von den Problemen hin zu möglichen Lösungen. Die Präsentationen befassten sich mit verschiedenen Reaktionsmöglichkeiten, einschließlich der Wirksamkeit aktueller Regulierungsregime, dem Einsatz von KI zur Erkennung extremistischer Inhalte und dem Gleichgewicht zwischen Maßnahmen zur Terrorismusbekämpfung und dem Schutz der Menschenrechte.

Ich war geehrt, meine Forschung mit dem Titel “Content Moderation Interventions in the Age of Borderline Social Media Content: A Bot-Powered Approach to Influence User Attitude and Engagement with Borderline Content” vorzustellen. Dieses Projekt, das ich gemeinsam mit Marten Risius von der Hochschule Neu-Ulm (HNU) und Sabine Matook von der University of Queensland (UQ) entwickelt habe, untersucht, wie automatisierte Systeme zur Moderation von Inhalten eingesetzt werden können, die zwar nicht offen gegen Plattformrichtlinien verstoßen, aber dennoch zu schädlichen Narrativen beitragen.

Die Resonanz auf unsere Präsentation war überwältigend positiv, und es war erfreulich zu sehen, wie unsere Forschung bedeutungsvolle Diskussionen anregte. Ich konnte wertvolle Kontakte zu Extremismuspräventionsarbeitern in Deutschland sowie zu Forschern aus Großbritannien und den USA knüpfen, die als Grundlage für zukünftige Kooperationen dienen könnten.

Sandpit-Event: Zusammenarbeit an innovativen Lösungen

Die Konferenz endete mit einem Sandpit-Event am 20. Juni, das darauf ausgelegt war, die Zusammenarbeit unter den Teilnehmern zu fördern. Dieses Event bot eine einzigartige Gelegenheit, intensiv mit anderen Experten an der Entwicklung von Projektvorschlägen zu arbeiten, die die während der Konferenz besprochenen Herausforderungen adressieren.

Ich arbeitete mit Daniel Levenson von der Swansea University an einem Vorschlag mit dem Titel “Shifting the Conversation on AI and Terrorism: A Value-Sensitive Approach for Stakeholder Consensus” zusammen. Unser Projekt konzentriert sich darauf, das fehlende Konsens über die Eindämmung des Missbrauchs von KI-Technologien durch terroristische Akteure anzugehen. Wir streben an, den Diskurs in Richtung eines wertorientierten Ansatzes zu verschieben, der Sicherheit mit ethischen Überlegungen in Einklang bringt und den Dialog zwischen den Interessengruppen fördert, um umsetzbare politische Empfehlungen zu entwickeln.

Das Event wurde professionell moderiert und gipfelte in der Präsentation der Projektideen durch die Teams sowie in der Einreichung der Projektvorschläge in der darauffolgenden Woche. Einen Monat nach der Konferenz waren wir begeistert zu erfahren, dass unser Vorschlag das £5.000 Startkapital gewonnen hatte. Dieses Stipendium ermöglicht es uns, unsere Forschung fortzusetzen, die in der heutigen digitalen Ära, in der KI zunehmend in den Alltag und in die schädlichen Aktivitäten extremistischer Gruppen integriert wird, von entscheidender Bedeutung ist.

Abschließende Gedanken

Die Teilnahme an der TASM-Konferenz war eine unschätzbare Erfahrung, die nicht nur die Möglichkeit bot, meine Forschung zu teilen, sondern auch, sich mit führenden Experten und Praktikern auf diesem Gebiet auszutauschen. Die Konferenz unterstrich die Bedeutung interdisziplinärer Zusammenarbeit bei der Bewältigung der komplexen Herausforderungen im Zusammenhang mit Terrorismus und sozialen Medien. Die gewonnenen Erkenntnisse und geknüpften Kontakte werden zweifellos die Arbeit, die wir am CTS leisten, bereichern und vorantreiben.

Während wir voranschreiten, werden die Diskussionen und Ideen der TASM 2024 eine entscheidende Rolle bei der Gestaltung unseres Ansatzes zu diesen Herausforderungen spielen. Ich freue mich darauf, unsere Bemühungen fortzusetzen, verantwortungsvolle und effektive Strategien zur Bekämpfung des Missbrauchs von Technologie durch extremistische Gruppen zu entwickeln, mit der Unterstützung und Zusammenarbeit unserer neuen Partner.