Verständliche Künstliche Intelligenz in Assistenzsystemen an Mensch-System-Schnittstellen

Oksana Arnold () and Klaus P. Jantke ()
Additional contact information
Oksana Arnold: Künstliche Intelligenz, FH Erfurt
Klaus P. Jantke: ADICOM Software KG

Chapter Kapitel 13 in Entrepreneurship der Zukunft, 2023, pp 317-343 from Springer

Abstract: Zusammenfassung Jedes digitale System, das Menschen interaktiv unterstützt, sei es bei der Datenanalyse, bei der Erstellung von Diagnosen, bei der Steuerung von Prozessen, bei der Suche nach bisher nicht bekannten Lösungen, wobei auch immer, braucht Künstliche Intelligenz (KI). In der Praxis sind Daten im Allgemeinen unvollständig und dynamisch. Wenn die KI Interpretationen anbietet oder Vorschläge macht, dann sind alle diese Äußerungen der KI hypothetisch. Anders kann es nicht sein. Die KI lernt und wird immer besser – ein immer hilfreicherer Assistent. Menschen brauchen Transparenz der KI. Im Prozess der Interaktion müssen sie nachfragen, was die KI gemacht hat und warum. Oft genügt nicht eine einfache Antwort auf eine einfache Frage, denn sowohl das Lösen von Problemen als auch das Lernen der KI ist ein Prozess über der Zeit. Verständlichkeit der KI erfordert Erklärungsdialoge. Benötigt wird, was man im Englischen als Explainable Artificial Intelligence (XAI) bezeichnet. Erklärbare KI – kurz XAI – kann die Fragen beantworten, woher sie ihre Hypothesen holt, warum sie eine Hypothese behält oder warum sie eine Hypothese verwirft und wie sie zu einer aktuellen Hypothese gekommen ist. Jede lernende KI kann so konstruiert werden, dass sie ihr Verhalten gut erklärt. Im Gegensatz zur XAI gibt es KI-Ansätze, die in der Fachliteratur als Blackbox by Nature bezeichnet werden, ein Zustand, der überwunden werden muss. Der Schlüssel zu XAI, zu erklärbaren KI-Assistenten, ist Explainability by Design.

Date: 2023
References: Add references at CitEc
Citations:

There are no downloads for this item, see the EconPapers FAQ for hints about obtaining it.

Related works:
This item may be available elsewhere in EconPapers: Search for items with the same title.

Export reference: BibTeX RIS (EndNote, ProCite, RefMan) HTML/Text

Persistent link: https://EconPapers.repec.org/RePEc:spr:sprchp:978-3-658-42060-4_13

Ordering information: This item can be ordered from
http://www.springer.com/9783658420604

DOI: 10.1007/978-3-658-42060-4_13

Access Statistics for this chapter

More chapters in Springer Books from Springer
Bibliographic data for series maintained by Sonal Shukla () and Springer Nature Abstracting and Indexing ().