Verlässliche, menschenzentrierte Künstliche Intelligenz
Ein zentrales Anliegen des Forschungsschwerpunkts Dependable Human-Centered Artificial Intelligence (HCAI) ist es, Künstliche Intelligenz (KI) so zu gestalten, dass sie die Menschen wirkungsvoll unterstützt. Dazu werden adaptive, erklärbare und transparente Systeme entwickelt, die menschliche Bedürfnisse, Fähigkeiten und Werte berücksichtigen. Dazu wirken Methoden und Ansätze aus der Informatik, Robotik, Data Science, Biosignalverarbeitung und Sozialwissenschaften zusammen, um hochzuverlässige und menschzentrierte Technologien und Systeme zu realisieren.
Disziplinen
Informatik
Mathematik
Psychologie
Sozial- und Verhaltenswissenschaften
Ethik
Ein Schwerpunkt an der Universität Bremen liegt auf biosignaladaptiven Systemen, kognitiver Robotik und erklärbaren KI-Algorithmen. Bedeutende Initiativen sind der Forschungsbereich Minds, Media, Machines, das Technologie-Zentrum Informatik und Informationstechnik, das Data Science Center sowie der SFB EASE. Wichtige Infrastruktureinrichtungen sind der Biosignals-Hub und das Datenkompetenzzentrum DataNord sowie verbindende Plattformen wie das Virtual Research Building und LabLinking.
Die Carl von Ossietzky Universität Oldenburg trägt ihre Expertise in human-cyber-physischen Systemen, robusten KI-Modellen und föderierten Lernverfahren bei, welche interdisziplinär im Forschungszentrum Human-Cyber-Physical Systems sowie im Wissenschaftlichen Zentrum für Methoden der Artificial Intelligence – WiZArD und Data Science fortentwickelt wird.
Gemeinsam sind beide Universitäten an den Graduiertenkollegs CAUSE und KD²School beteiligt. CAUSE entwickelt selbsterklärende digitale Systeme, in KD²School werden biosignaladaptive Systeme für Entscheidungsprozesse entworfen.
Die komplementären Stärken beider Universitäten ermöglichen die Erforschung belastbarer, menschenzentrierter KI-Systeme, die technologische Verlässlichkeit mit menschlicher Orientierung verbinden. Durch Workshops, standortübergreifende Initiativen und vernetzte Laborinfrastrukturen wird die Kooperation intensiviert.
Zentrale Forschungsinitiativen
Sprecher*innen des Forschungsschwerpunkts
Der Forschungsschwerpunkt HCAI adressiert eine der drängendsten gesellschaftlichen Herausforderung: das Verhältnis zwischen Mensch und KI. Mit der zunehmenden Durchdringung aller Lebensbereiche durch KI muss sichergestellt werden, dass sie dem Menschen dient – nicht umgekehrt.
Prof. Dr. Tanja Schultz, Universität Bremen
KI-basierte Systemen werden in kritischen Anwendungsdomänen zukünftig nur noch dann verantwortbar eingesetzt werden können, wenn sie den Menschen unterstützen und ergänzen und um ein Vielfaches zuverlässiger als derzeitige KI-Systeme sind. Innerhalb der nächsten sieben Jahre erwarten wir, einen ingenieurmäßigen Mtehodenschatz für die Entwicklung solch hochzuverlässiger menschzentrierter KI-Systeme bereitzustellen.
Prof. Dr. Martin Fränzle, Universität Oldenburg
