Mobile-Menu
  DB Podcast

Neue Forschungsprojekte Generative KI: bidt startet neuen Forschungsschwerpunkt

Verantwortliche:r Redakteur:in: Stefan Girschner 5 min Lesedauer

Anbieter zum Thema

Bayerisches Forschungsinstitut für Digitale Transf
d.velop AG
Esker Software Entwicklungs-und Vertrieb
Yorizon GmbH & Co. KG

Das Bayerische Forschungsinstitut für Digitale Transformation startet in diesem Jahr einen neuen Forschungsschwerpunkt und zwölf innovative Forschungsprojekte. Mit dem Schwerpunkt „Mensch und generative KI: Trust in Co-Creation“ will das bidt sein Profil schärfen.

(Bild: Studio_East/Adobe Stock)
(Bild: Studio_East/Adobe Stock)

Generative KI revolutioniert Lebensbereiche wie Bildung, Arbeit oder Wissenschaft, bringt jedoch auch Herausforderungen mit sich, etwa die Gewährleistung von Qualität und Wahrheitsgehalt. Bei den drei internen und sieben externen Forschungsvorhaben widmet sich das Bayerische Forschungsinstitut für Digitale Transformation, ein Institut der Bayerischen Akademie der Wissenschaften, der Frage, wann und wie viel Vertrauen in Bezug auf generative KI angebracht ist, sei es bei der Erstellung, Interaktion oder der Bewertung von KI-generierten Produkten. Das bidt fördert ab 2025 gezielt Projekte, die diese Thematik aus verschiedenen Blickwinkeln beleuchten.

Neuer Forschungsschwerpunkt "Mensch und generative KI"

Hannah Schmid-Petri ist Direktorin des bidt.(Bild: bidt)
Hannah Schmid-Petri ist Direktorin des bidt.
(Bild: bidt)

Die Leitung des neuen Forschungsschwerpunkts „Mensch und generative KI: Trust in Co-Creation“ übernimmt die Hannah Schmid-Petri, Direktorin des bidt und Inhaberin des Lehrstuhls für Wissenschaftskommunikation an der Universität Passau. „Vertrauen ist der Dreh- und Angelpunkt für den erfolgreichen Einsatz von generativer KI. Mit unserem neuen bidt-Schwerpunkt wollen wir herausfinden, wie wir die Interaktion von Mensch und KI so gestalten können, dass sie langfristig dem Menschen und der Gesellschaft dienlich ist“, erklärt Schmid-Petri. Sie forscht zudem an einem eigenen Projekt rund um Vertrauen und KI. Die drei internen Projekte haben im Jahr 2024 begonnen. Die Forschungsvorhaben im Überblick:

  • „KI im Journalismus: Der Einfluss generativer KI auf Objektivität und Dialogbereitschaft in der Debatte um Klimaschutz“ unter Leitung Prof. Dr. Hannah Schmid-Petri, bidt/Universität Passau. Das Projekt erforscht, inwiefern KI in journalistischen Berichten dazu beitragen kann, die Annahmebereitschaft von Botschaften zu erhöhen und die sachliche Auseinandersetzung mit Gegenargumenten zu befördern.

  • „Mensch-KI-Co-Creation von Programmcode bei unterschiedlichen Vorkenntnissen – Effekte auf Performanz und Vertrauen“ unter Leitung: Prof. Dr. Ute Schmid, bidt/Universität Bamberg. Dieses Projekt untersucht den Co-Creation-Prozess von Mensch und KI im Kontext der Erstellung von Programmcode, indem es KI-Methoden und Ansätze der experimentellen Kognitionsforschung kombiniert.

  • „Rechtsunsicherheit durch generative KI? Reformüberlegungen zur Förderung von Systemvertrauen an Hochschulen“ unter Leitung: Prof. Dr. Dirk Heckmann, bidt/TU München. In dem Projekt soll neben der rechtlichen Analyse im Hochschul- und Prüfungsrecht auch untersucht werden, wie Hochschulen in der Prüfungspraxis auf die Nutzung generativer KI reagieren könnten und wo sie sich anpassen sollten.

Forschungsvorhaben: Generative KI in Wahlen bis AI-Aided Design

Dr. Christoph Egle ist Geschäftsführer des bidt.(Bild: bidt)
Dr. Christoph Egle ist Geschäftsführer des bidt.
(Bild: bidt)

Die sieben externen Forschungsvorhaben wurden im Rahmen der bidt-Jahresausschreibung ausgewählt und starten im ersten Quartal 2025. Sie sind alle an bayerischen Hochschulen und Forschungseinrichtungen angesiedelt und haben sich in einem kompetitiven Verfahren aufgrund ihrer exzellenten Qualität, Aktualität und Relevanz durchgesetzt.

„Die große Resonanz auf unsere Jahresausschreibung hat uns überwältigt. Sie zeigt, dass unser Forschungsthema Vertrauen und KI den Zahn der Zeit trifft. Wir gratulieren den Projekten, die aus einem Pool von 147 Bewerbungen hervorstechen konnten und erhoffen uns von ihnen wertvolle Impulse und Handlungsempfehlungen für eine gemeinwohlorientierte digitale Zukunft“, berichtet Dr. Christoph Egle, Geschäftsführer des bidt. Dies sind die externen Forschungsvorhaben:

  • „Generative Artificial Intelligence in Elections: Uses, Preferences, and Trust“, Prof. Dr. Andreas Jungherr (Universität Bamberg). Die Forschenden untersuchen, wie deutsche Parteien generative KI nutzen, und welchen Einfluss dies auf Wahlkampagnen und das Vertrauen der Öffentlichkeit hat. Damit siedelt das Projekt an der Schnittstelle von KI, Demokratie und politischem Wettbewerb an.

  • „Selbstreguliert und kompetent mit generativer KI interagieren: Diagnostik und Förderung“, Prof. Dr. Marion Händel (Hochschule Ansbach). Das Projekt befasst sich mit der Interaktion von Studierenden mit KI und beleuchtet das selbstregulierte Lernen. Es zielt darauf ab, Diagnoseverfahren und Fördermaßnahmen zu entwickeln, die zu einem reflektierten Umgang mit generativer KI beitragen.

  • „Algorithmische Darstellungsverzerrungen aus Userperspektive: Bewertung, Auswirkungen, Interventionen“, Prof. Dr. Markus Appel (Universität Würzburg). Die mit generativer KI erstellten Texte und Bilder stellen Frauen und Minderheiten oft unausgewogen dar. Ziel des Projekts ist es, dieses Phänomen, seine Auswirkungen und mögliche Gegenmaßnahmen besser zu verstehen.

    Jetzt Newsletter abonnieren

    Verpassen Sie nicht unsere besten Inhalte

    Mit Klick auf „Newsletter abonnieren“ erkläre ich mich mit der Verarbeitung und Nutzung meiner Daten gemäß Einwilligungserklärung (bitte aufklappen für Details) einverstanden und akzeptiere die Nutzungsbedingungen. Weitere Informationen finde ich in unserer Datenschutzerklärung. Die Einwilligungserklärung bezieht sich u. a. auf die Zusendung von redaktionellen Newslettern per E-Mail und auf den Datenabgleich zu Marketingzwecken mit ausgewählten Werbepartnern (z. B. LinkedIn, Google, Meta).

    Aufklappen für Details zu Ihrer Einwilligung

  • „Wie ‚menschlich‘ muss Gerechtigkeit sein? Psychologische Determinanten von Vertrauen in Ko-Kreation im Kontext Rechtssystem“, Prof. Dr. Friederike Funk (LMU München). Das Projekt analysiert psychologische Prozesse, die das Vertrauen in die Zusammenarbeit mit generativer KI fördern oder hemmen. Im Fokus stehen die richterliche Urteilsfindung, die Zuverlässigkeit von Zeugenaussagen und die Identifizierung von Tatverdächtigen.

  • „Trustworthy Generative AI Copilots for Data Analytics in Business Decision-Making“, Prof. Dr. Ulrich Gnewuch (Universität Passau). Wie treffen Nutzende bei der Interaktion mit einem KI-Copiloten Entscheidungen? Das Projekt untersucht die Gestaltung vertrauenswürdiger generativer KI-Copiloten und deren Einfluss auf die Geschäftsentscheidungen von Nutzenden ohne technischen Hintergrund.

  • „AI-Aided Design: Generative AI as a Co-Creation Tool“, Prof. Dr.-Ing. Klaus Diepold (TU München). Dieses Projekt erforscht, wie generative KI eingesetzt werden kann, um Designerinnen und Designer beim Entwurf von 3D Objekten zu unterstützen. Ziel ist ein co-kreativer Prozess zwischen Software und Mensch. 

  • „Human-Centered Specification-Driven Software Engineering with Generative AI“, Prof. Dr. Albrecht Schmidt (LMU München). Das Projekt soll die digitale Souveränität von Individuen und Gesellschaft stärken. Es basiert auf einem spezifikationsgetriebenen Ansatz für die Softwareentwicklung ohne Programmierkenntnisse und soll einen breiteren Zugang zur Gestaltung digitaler Technologien ermöglichen.

Konsortialprojekte zu Deepfakes in der Strafverfolgung und autoritäre KI

Ergänzend zu den Projekten des Forschungsschwerpunkts wurden im Rahmen der Jahresausschreibung zwei weitere Konsortialprojekte aus Bayern ausgewählt, die 2025 anlaufen werden. Die Vorhaben verstärken vorhandene Forschungsfelder und erweitern das Themenportfolio des bidt:

  • „For the Greater Good? Deepfakes in der Strafverfolgung“ unter Leitung von Prof. Dr. Lena Kästner (Universität Bayreuth), Prof. Dr. Niklas Kühl (Universität Bayreuth), Prof. Dr. Christian Rückert (Universität Bayreuth), OStA Miriam Margerie (ZAC NRW). Der Einsatz moderner KI birgt auch für die Strafverfolgung enormes Potenzial. Doch unter welchen Umständen und in welchem Maße ist der Einsatz von Deepfakes gesellschaftlich akzeptabel? Das Projekt bezieht Strafrecht und Strafverfolgung, Wirtschaftsinformatik und Philosophie ein.

  • „Autoritäre KI: Wie große Sprachmodelle (LLMs) an Russlands Propaganda angepasst werden“ unter Leitung von Prof. Dr. Florian Toepfl (Universität Passau), Prof. Dr. Andreas Jungherr (Universität Bamberg), Prof. Dr. Florian Lemmerich (Universität Passau). Das Projekt wirft zwei Fragen auf: Wie und mit welchen Konsequenzen werden LLMs unter strenger Aufsicht und Zensur im heutigen Russland entwickelt? Und welche Auswirkungen haben autoritäre Daten, wenn sie in demokratische LLM-gestützte Systeme eingespeist werden?

Weiterführende Inhalte