Text+ und die BERD Academy

Autoren: Thomas Eckart, Felix Helfer, Christian Kahmann, Erik Körner, Christopher Schröder

Workshop “AI based Methods for Using Text as Data in the Social Sciences” an der BERD Academy (Bildquelle und Copyright: BERD Academy)

Am 12. Dezember 2023 fand im Rahmen der BERD Academy in Leipzig der Workshop “AI based Methods for Using Text as Data in the Social Sciences” statt, in dem Angehörige der Sächsischen Akademie der Wissenschaften zu Leipzig (SAW Leipzig), der Universität Leipzig sowie des Center for Scalable Data Analytics and Artificial Intelligence (ScaDS.AI) einen Überblick gaben über aktuelle Entwicklungen und konkrete Ansätze zur Arbeit mit Textdaten im Bereich Künstlicher Intelligenz.

Die BERD Academy bietet eine Reihe von Kursen, Workshops und anderen Bildungsmaterialien an, um Datenkompetenz im Allgemeinen und den Umgang mit unstrukturierten Daten im Besonderen zu fördern. Sie ist ein Angebot des Konsortiums BERD@NFDI, das eine leistungsfähige Plattform zur Sammlung, Verarbeitung, Analyse und Aufbereitung von Wirtschafts- und verwandten Daten im Kontext der Nationalen Forschungsdateninfrastruktur (NFDI) aufbaut.

Die auf dem Workshop vorgestellten Themen umfassten die Nutzung verschiedener Aufbereitungs- und Analysewerkzeuge für die qualitative und quantitative Erschließung von Textkollektionen. Weiterer Inhalt war die Bedeutung hochqualitativer Textdaten einerseits für die Erstellung komplexer Anwendungen, andererseits als Grundlage für Training und Finetuning von Sprachmodellen. Ebenso ging es um aktuelle Arbeiten im Bereich Active Learning und konkreten Hilfestellungen bei der Arbeit mit großen Sprachmodellen (Large Language Models, LLMs).

Der Fokus des ersten Vortrags lag auf der Bedeutung moderner Forschungsumgebungen für die flexible Analyse und Organisation von Textkorpora durch Text-Mining-Werkzeuge. Dies wurde anhand des “Interactive Leipzig Corpus Miner” (iLCM) erläutert, einer integrierten Forschungsumgebung für die Analyse strukturierter und unstrukturierter Daten. Der iLCM wurde entwickelt, um den Bedürfnissen von Forschenden gerecht zu werden, die wenig Erfahrung in der Arbeit mit Text-Mining-Tools haben, aber auch für Forschende mit umfassenden Kenntnissen der Programmiersprache R. Er unterstützt die quantitative Auswertung großer Mengen qualitativer Daten mithilfe von Text-Mining-Methoden, einschließlich der Organisation umfangreicher Datenbestände in Teilkorpora, der Annotation und Klassifizierung von Daten mittels Active Learning sowie der Darstellung von Daten und Themen im Zeitverlauf. Diese Nutzungsszenarien wurden anhand konkreter Forschungsprojekte demonstriert, die den iLCM einsetzen.

Der “interactive Leipzig Corpus Miner” (iLCM) als Werkzeug für die Sozialwissenschaften (Folie: Christian Kahmann, Universität Leipzig)

Die zweite Präsentation betonte die Bedeutung hochqualitativer Textdaten als Basis für sozialwissenschaftliche Forschungsvorhaben am Beispiel der englischsprachigen Nachrichtenkorpora des Projekts Wortschatz Leipzig. Neben einer Projektvorstellung und dessen Einordnung in das NFDI-Konsortium Text+ standen hier verschiedene Formen der Textbeschaffung und deren Aufbereitung für statistische Analyse- und Präsentationswerkzeuge im Vordergrund. Die Bandbreite reichte dabei von einer leistungsfähigen Korpusanalyse-Plattform zur Auswertung und flexiblen Filterung großer Korpora bis zur benutzerfreundlichen Aufbereitung automatisch generierter Topics für tagesaktuelle Textdaten. Der Vortrag schloss mit einer Übersicht über konkrete Usecases und Kooperationsprojekte mit einem Fokus auf die Verwendung umfangreicher Textmengen zur Erstellung großer Sprachmodelle.

Topic Modeling auf Basis tagesaktueller Textdaten (Folie: Projekt Wortschatz Leipzig, SAW Leipzig/Uni Leipzig)

Der dritte Vortrag widmete sich dem Thema Active Learning (AL) und dessen Verwendung im Bereich Textklassifikation. Nach einer allgemeinen Einführung in das Themengebiet mit einem Fokus auf der Nutzung verschiedener Query-Strategien wurde das Verfahren für die inhaltliche Klassifikation der bereits vorgestellten Nachrichtenkorpora des Projekts Wortschatz Leipzig angewendet. Zum Einsatz kam dabei die Bibliothek Small-Text, die den Aufbau eigener AL-Experimente deutlich vereinfacht und etablierte Machine-Learning-Bibliotheken nahtlos integriert. Zum Abschluss wurde diskutiert, wie große Sprachmodelle für die sozialwissenschaftliche Forschung genutzt und wie sie hinsichtlich Leistung und Speicherbedarf optimiert werden können. Zur Sprache kamen unter anderem die Themen Modell-Stabilität, der Umgang mit beschränkten Token-Kontexten sowie mögliche Optimierungen von Trainings- und Inferenzlaufzeiten.

Einfluss verschiedener Query-Strategien im Active Learning (Folie: Christopher Schröder, ScaDS.AI)

Die anschließende Diskussion bestätigte das große Interesse an den vorgestellten Themen und verdeutlichte das breite Spektrum interessanter Anwendungen und sich ergebender Fragestellungen im Umfeld der Sozial- und Wirtschaftswissenschaften.

Die Präsentatoren möchten sich herzlich beim Team der BERD Academy für die Einladung und die spannende Veranstaltung bedanken.

Veranstaltungswebseite: https://www.berd-nfdi.de/berd-academy/aitext-2023/

Zitiervorschlag
Thomas Eckart/Felix Helfer/Christian Kahmann/Erik Körner/Christopher Schröder: Text+ an der BERD Academy, in: Text+ Blog, 15.01.2024, https://textplus.hypotheses.org/9191.



Diesen Blogbeitrag zitieren
Text+ Mitglied (2024, 15. Januar). Text+ und die BERD Academy. Text+ Blog. Abgerufen am 24. Februar 2024, von https://doi.org/10.58079/vl1w

Das könnte dich auch interessieren …

Schreibe einen Kommentar

Deine E-Mail-Adresse wird nicht veröffentlicht. Erforderliche Felder sind mit * markiert

Diese Website verwendet Akismet, um Spam zu reduzieren. Erfahre mehr darüber, wie deine Kommentardaten verarbeitet werden.

Suche in OpenEdition Search

Sie werden weitergeleitet zur OpenEdition Search