Transfer von Ergebnissen aus dem Gebiet der Künstlichen Intelligenz in Spielen in die Medizinische Informatik zur Anwendung in entscheidungsunterstützenden Systemen

mibe000266 10.3205/mibe000266 urn:nbn:de:0183-mibe0002661 Fallbericht Transfer von Ergebnissen aus dem Gebiet der Künstlichen Intelligenz in Spielen in die Medizinische Informatik zur Anwendung in entscheidungsunterstützenden Systemen Transferring results from the field of artificial intelligence in games to medical informatics for application in decision support systems Apeldoorn Apeldoorn Daan D Dr.

Universitätsmedizin der Johannes Gutenberg-Universität Mainz, Institut für Medizinische Biometrie, Epidemiologie und Informatik (IMBEI), Medizinische Informatik, 55101 Mainz, Deutschland, Tel.: +49 6131 17-5062Universitätsmedizin der Johannes Gutenberg-Universität Mainz, Institut für Medizinische Biometrie, Epidemiologie und Informatik (IMBEI), Medizinische Informatik, Mainz, Deutschland

daan.apeldoorn@uni-mainz.de author German Medical Science GMS Publishing House

Düsseldorf

610 artificial intelligence machine learning decision support comprehensibility Künstliche Intelligenz maschinelles Lernen Entscheidungsunterstützung Nachvollziehbarkeit 20240409 germ This is an Open Access article distributed under the terms of the Creative Commons Attribution 4.0 License. Dieser Artikel ist ein Open-Access-Artikel und steht unter den Lizenzbedingungen der Creative Commons Attribution 4.0 License (Namensnennung). 1860-9171 20 GMS Medizinische Informatik, Biometrie und Epidemiologie GMS Med Inform Biom Epidemiol 10 Carl-Zeiss-Stiftung Dieser Artikel behandelt den Transfer von Ansätzen aus dem Gebiet der Künstlichen Intelligenz in Spielen in die Medizinische Informatik zum Einsatz im Bereich entscheidungsunterstützender Systeme. Die wesentlichen in den entsprechenden Vorarbeiten entstandenen Ansätze werden zunächst grob eingeführt und es wird beleuchtet, wie diese in der Medizinischen Informatik im Kontext von entscheidungsunterstützenden Systemen Anwendung finden können. Darüber hinaus wird dargelegt, welche der in den Vorarbeiten entstandenen Ansätze für diesen Kontext geeignet sind. Damit liefert der Artikel neben der Einordnung der Ansätze zum Einsatz im Bereich der entscheidungsunterstützenden Systeme auch ein Beispiel für das Zusammenspiel unterschiedlicher Forschungsfelder. This paper considers the transfer of approaches from the field of artificial intelligence in games to the field of medical informatics to be used in decision support systems. The most relevant of the developed approaches will be roughly introduced and it will be considered how these approaches can be applied in medical informatics in the context of decision support systems. Moreover, it will be considered which of the approaches are eligible in this context. Apart from placing the approaches in the context of decision support systems, the paper thereby also provides an example for the interplay of different fields of research. 1 Einleitung1.1 VorbemerkungenDieser Artikel bezieht sich auf Ansätze, die im Rahmen von und damit in Zusammenhang stehenden Vorarbeiten entstanden sind. Obgleich diese in einem sehr unterschiedlichen Forschungsfeld entstanden sind, konnten einige der zentralen daraus resultierenden Ergebnisse in die Medizinische Informatik zur Nutzung im Bereich der entscheidungsunterstützenden Systeme transferiert werden.Zu den zwei Hauptbeiträgen der Vorarbeiten gehören in diesem Zusammenhang:Die Entwicklung von Verfahren zur Extraktion von menschenlesbarem Wissen aus lernenden Systemen, die eigenständig im Kontext von Spielen agieren.Die Implementierung der wichtigsten dieser Verfahren in der INTEKRATOR Toolbox , mit deren Hilfe die Verfahren auch in anderen Bereichen (wie z.B. in der Medizin) genutzt werden können: Mithilfe der INTEKRATOR</PlainText></TextGroup> Toolbox ist es möglich, explizites und für Menschen zugängliches Wissen aus medizinischen und anderen Daten zu lernen.</ListItem></UnorderedList></Pgraph><Pgraph>Im vorliegenden Artikel wird auf den Transfer der Verfahren eingegangen, die im Zuge der vorangegangenen Arbeiten im Kontext von Spielen entwickelt wurden. Es wird im Folgenden beschrieben, wie die entwickelten Verfahren in der Medizinischen Informatik im Bereich entscheidungsunterstützender Systeme Anwendung finden können und damit gleichzeitig auch ein Beispiel für das Zusammenspiel unterschiedlicher Forschungsfelder gegeben. Zu den Hauptbeiträgen des vorliegenden Artikels gehören: </Pgraph><Pgraph><UnorderedList><ListItem level="1">Die Erläuterung der Ursprünge von einigen der <TextGroup><PlainText>INTEKRATOR</PlainText></TextGroup> Toolbox <TextLink reference="2"></TextLink> zu Grunde liegenden Verfahren und deren Zusammenhang mit dem Gebiet der Künstlichen Intelligenz in Spielen </ListItem><ListItem level="1">Die Einordnung, welche Ansätze und Verfahren aus den Vorarbeiten Potential für die Medizinische Informatik im Zusammenhang mit entscheidungsunterstützenden Systemen aufweisen</ListItem></UnorderedList></Pgraph><Pgraph>Darüber hinaus werden einige wesentliche Aspekte der Benutzungsschnittstelle der INTEKRATOR Toolbox überblicksartig zusammengefasst (eine ausführlichere Fassung findet sich in <TextLink reference="1"></TextLink> und <TextLink reference="2"></TextLink>). </Pgraph><SubHeadline>1.2 Zusammenhänge zwischen den unterschiedlichen Forschungsfeldern</SubHeadline><Pgraph>Welche Zusammenhänge lassen sich zwischen zwei auf den ersten Blick so unterschiedlichen Forschungsfeldern wie der <Mark2>Künstlichen Intelligenz in Spielen</Mark2> und der <Mark2>Medizinischen Informatik</Mark2> herstellen?</Pgraph><Pgraph>In <TextLink reference="1"></TextLink> wurden Verfahren zur Extraktion von explizitem Wissen aus lernenden Agenten (d.h. eigenständig agierenden Systemen) im Kontext von Spielen entwickelt (z.B. <TextLink reference="3"></TextLink>, <TextLink reference="4"></TextLink>). Eines der Ziele besteht dabei darin, für Menschen nachvollziehbar zu machen, was ein solches lernendes System im Rahmen eines Spiels gelernt hat (ähnlich wie vereinfacht in Abbildung 1 <ImgLink imgNo="1" imgType="figure"/> dargestellt). Aus den ursprünglich für Agenten in Spielen entwickelten Ansätzen ist die INTEKRATOR Toolbox <TextLink reference="2"></TextLink> entstanden, ein System, mit dessen Hilfe Wissen auch aus medizinischen Daten expliziert und Menschen zugänglich gemacht werden kann. Das resultierende System verbindet Techniken des maschinellen Lernens und der Wissensre<TextGroup><PlainText>prä</PlainText></TextGroup>sentation (einem Teilgebiet der Künstlichen Intelligenz, KI) und dient nicht nur als Erklärungswerkzeug, sondern kann auch genutzt werden, um automatisiert Expertensysteme aus Daten zu erzeugen (siehe <TextLink reference="5"></TextLink>). An ein so erzeugtes System lassen sich dann Anfragen stellen, um Schlussfolgerungen zu erhalten (beispielsweise zur Empfehlung von Therapien bei gegebenen Patientenei<TextGroup><PlainText>g</PlainText></TextGroup>enschaften). Dabei können zusätzlich Erklärungen geliefert werden, wie diese Schlussfolgerungen zustande kommen.</Pgraph></TextBlock> <TextBlock linked="yes" name="2 Methoden"> <MainHeadline>2 Methoden</MainHeadline><Pgraph>Selbständig lernende Systeme haben häufig einen Blackbox-artigen Charakter: Hat ein System ein bestimmtes Verhalten gelernt, ist es oft schwierig, das gelernte Wissen in kompakter, menschenlesbarer Form zu explizieren. In kritischen Anwendungen (wie etwa in der Medizin) kann diese Problematik dazu führen, dass die mangelnde Vertrauenswürdigkeit solcher Systeme ihrem Einsatz im Wege steht. Methoden der Wissensrepräsentation <TextLink reference="6"></TextLink> (ein traditionelles Teilgebiet der KI) können hier Abhilfe schaffen, da bei wissensbasierten Systemen regelhaftes Wissen zumeist in expliziter Form vorliegt und verarbeitet wird: So können beispielsweise einzelne oder mehrere Regeln identifiziert werden, auf Basis derer eine Entscheidung getroffen wird (etwa im Gegensatz zu neuronalen Netzen, bei denen das Wissen implizit in zahlrei<TextGroup><PlainText>c</PlainText></TextGroup>hen numerischen Gewichten enthalten ist, die nur schwer Rückschlüsse auf deren inhaltliche Bedeutung zulassen, und somit substanzielle Erklärungen für eine Entscheidung häufig schwer oder gar nicht geliefert werden können). Die Funktionsweise unterscheidet sich somit auch grundsätzlich von Large Language Models (LLMs) und damit verbundenen Chat-Anwendungen: Insbesondere existiert hier auch kein Dialogsystem und Erklärungen zu Inferenzen werden auf Basis von nachvollziehbaren Regeln mit annotierten (bedingten) Wahrscheinlichkeiten geliefert. </Pgraph><Pgraph>Während etwa in <TextLink reference="7"></TextLink> überblicksartig verschiedene transparenzbezogene Ansätze im Kontext von maschinellen Lernverfahren vorgestellt werden (auch im Hinblick auf medizinische Nutzung, vgl. <TextLink reference="7"></TextLink>, S. 140), sind in <TextLink reference="1"></TextLink> Verfahren zur automatisierten Gewinnung von verständlichem expliziten Wissen aus lernenden Agenten in Spielen entstanden: Ein solches selbständig handelndes System kann beispielsweise mit Methoden des maschinellen Lernens ein bestimmtes Verhalten erlernen, um ein Spiel spielen und gewinnen zu können. Danach lässt sich die Frage stellen, wie sich das gelernte Wissen am besten in Form von Regeln explizieren lässt, sodass ein Mensch nachvollziehen kann, was gelernt wurde. Die INTEKRATOR Toolbox <TextLink reference="2"></TextLink> ermöglicht es, einige der in diesem Rahmen entstandenen Verfahren auf einfache Art und Weise auch auf medizinische Datensätze anzuwenden <TextLink reference="5"></TextLink>.</Pgraph><Pgraph>Im Folgenden werden die zentralen Konzepte und Verfahren kurz beleuchtet (Abschnitt 2.1), bevor näher auf die INTEKRATOR Toolbox eingegangen wird (Abschnitt 2.2).</Pgraph><SubHeadline>2.1 Lernen und Repräsentieren von Wissen in Form von Regeln mit Ausnahmen</SubHeadline><Pgraph>Auch wenn die Darstellung von explizitem Wissen durch Regeln grundsätzlich ein gewisses Maß an Transparenz gewährleistet (da im Prinzip jede einzelne Regel nachvollzogen werden kann), stößt auch dieser Ansatz an seine Grenzen, wenn die Regelmenge (wie oft in realen Anwendungen) eine gewisse Größe übersteigt. Eine Möglichkeit, das Wissen kompakter (und damit grundsätzlich für den Menschen besser erfassbar) darzustellen, ist die Darstellung in Form von (Default-)Regeln mit Ausnahmen (vgl. etwa <TextLink reference="8"></TextLink>): „Normalerweise gilt …, es sei denn …“. Die Darstellung von Wissen in Form von Regeln mit Ausnahmen findet sich bereits in frühen Arbeiten, wie z.B. im Rahmen der von Reiter entworfenen Default-Logik <TextLink reference="8"></TextLink> oder auch in moderneren Ansätzen wie der Antwortmengenprogrammierung <TextLink reference="9"></TextLink>.</Pgraph><Pgraph>Der im Rahmen von <TextLink reference="1"></TextLink> entstandene Ansatz der Wissensrepräsentation führt das Konzept der Regeln mit Ausnahmen über mehrere Abstraktionsebenen fort. Das resultierende Wissen ist dann in Form von Regeln mit Ausnahmen (und Ausnahmen von Ausnahmen, etc.) organisiert. Abbildung 1 <ImgLink imgNo="1" imgType="figure"/> zeigt ein einfaches Beispiel eines lernenden Agenten zusammen mit dem extrahierten Wissen, welches das gelernte Verhalten des Agenten repräsentiert.</Pgraph><Pgraph>Zur automatisierten Gewinnung der entwickelten Wissensdarstellungen aus Sensordaten (wie im rechten Teil von Abbildung 1 <ImgLink imgNo="1" imgType="figure"/> ) wurden in <TextLink reference="1"></TextLink> zwei unterschiedliche Algorithmen vorgestellt. Zudem wurde ein Verfahren entwickelt, mit dessen Hilfe solche Darstellungen auch aus numerischen Daten gewonnen werden können. Einige dieser Verfahren wurden in der INTEKRATOR Toolbox implementiert und sind somit auch auf medizinische sowie andere Daten anwendbar.</Pgraph><Pgraph>Das in der INTEKRATOR Toolbox verfügbare Verfahren zum Lernen einer Wissensdarstellung wie im rechten Teil von Abbildung 1 <ImgLink imgNo="1" imgType="figure"/> geht von einem Datensatz mit <Mark2>n</Mark2> Income- und einer Outcome-Spalte aus. Der Lernalgorithmus versucht dann mit möglichst wenigen Regeln und möglichst wenigen Ausnahmen die unterschiedlichen Ausprägungen in der Outcome-Spalte mit den in der Income-Spalte auftretenden Ausprägungen zu erklären. Bei deterministischen Daten (d.h. Daten, bei denen ein und dieselbe Konstellation von Income-Ausprägungen auch immer nur zu ein und derselben Outcome-Ausprägung führt) ist der Algorithmus vollständig – ein entsprechender Vollständigkeitsbeweis befindet sich in <TextLink reference="1"></TextLink>. </Pgraph><Pgraph>Für das Lernen von Wissen aus numerischen Daten, wird zunächst spaltenweise ein Clustering-Verfahren als unüberwachtes maschinelles Lernverfahren auf die numerischen Daten angewendet. Die resultierenden Cluster werden dann als Ausprägungen der einzelnen Spalten aufgefasst. Diese Ausprägungen können dann vom zuvor beschriebenen Lernalgorithmus in Prämissen und Konklusionen gelernter Regeln verwendet werden. Bei dem Clustering-Verfahren handelt es sich um ein <Mark2>k</Mark2>-means-Clustering (z.B. <TextLink reference="10"></TextLink>). Dieses kann mit einer vom Anwender vorgegebenen maximalen Anzahl <Mark2>k</Mark2> an Clustern gestartet werden (sofern eine Unterteilung a priori gewünscht bzw. bekannt ist); alternativ kann die Anzahl der Cluster auch automatisiert aus den Daten ermittelt werden. Der entsprechende Algorithmus beginnt in jedem Fall mit <TextGroup><Mark2>k</Mark2><PlainText>=2 C</PlainText></TextGroup>lustern und erhöht <Mark2>k</Mark2> dann sukzessive solange, bis leere Cluster entstehen – das letzte Clustering, welches noch keine leeren Cluster enthält, wird dann für die Erzeugung der Ausprägungen genutzt. Die initialen Zentroiden der Cluster werden dabei äquidistant über den Wertebereich einer entsprechenden Datenspalte verteilt. Die <TextGroup><PlainText>INTEKRATOR</PlainText></TextGroup> Toolbox bietet zu den aus Clustern gewonnenen Ausprägungen eine Option, mittels derer sich Informationen zu den Clustern (finale Zentroiden, Anzahl der ermittelten Cluster, prozentuale Abdeckung der Daten einzelner Cluster, etc.) an den Ausprägungen annotieren lassen. (Eine detaillierte Beschreibung der Lernverfahren findet sich in <TextLink reference="1"></TextLink>.) </Pgraph><SubHeadline>2.2 Verallgemeinerung der Verfahren und Transfer in die Medizinische Informatik für den Einsatz in entscheidungsunterstützenden Systemen</SubHeadline><Pgraph>Die INTEKRATOR Toolbox <TextLink reference="2"></TextLink> soll es ermöglichen, die in Abschnitt 2.1 beschriebenen Verfahren unkompliziert und flexibel einsetzen zu können. Dazu wurden die zentralen entstandenen Verfahren in einer leichtgewichtigen Java-basierten Open-Source-Software implementiert, die sowohl als Konsolenanwendung als auch als Programmierbibliothek eingesetzt werden kann. Damit eignet <TextGroup><PlainText>sich die</PlainText></TextGroup> Software beispielsweise auch dazu, die Verfahre<TextGroup><PlainText>n in</PlainText></TextGroup> Webanwendungen einzusetzen. In <TextLink reference="5"></TextLink> wurde die <TextGroup><PlainText>INTEKRATOR</PlainText></TextGroup> Toolbox zum automatisierten Lernen von Wissen für medizinische Experten-Systemen vorgeschlagen: Anstelle der manuellen Modellierung von Expertenwissen ist es damit möglich, explizites menschenlesbares Wissen direkt aus medizinischen Daten zu lernen. Eine so gelernte Wissensbasis kann dann nicht nur inspiziert werden, um Zusammenhänge in den Daten zu verstehen, sondern es lassen sich mittels INTEKRATOR auch Anfragen an das gelernte Wissen stellen. Damit lassen sich automatische Schlussfolgerungen einschließlich zugehöriger Erklärungen erhalten. Abbildung 2 <ImgLink imgNo="2" imgType="figure"/> und Abbildung 3 <ImgLink imgNo="3" imgType="figure"/> verdeutlichen dies.</Pgraph><SubHeadline>2.3 Überblick über die Benutzungsschnittstelle der INTEKRATOR Toolbox</SubHeadline><Pgraph>Die Funktionalität der INTEKRATOR Toolbox <TextLink reference="2"></TextLink> ist sowohl als JAVA-Bibliothek als auch als Konsolenanwendung zugänglich. Über letzteren Weg kann sie auch von externen Programmen aus aufgerufen werden (wobei die Ausgabe vom aufrufenden Programm weiterverarbeitet werden kann). Damit ist es möglich, Wissensbasen aus Daten zu lernen, Inferenzanfragen an die so gelernten Wissensbasen zu stellen oder diese auch (bedingt) nachträglich zu revidieren. Darüber hinaus können gelernte (sowie auch manuell modellierte) Wissensbasen gegen einen Datensatz (oder eine Teilmenge davon) evaluiert werden, um die Qualität einer Wissensbasis beurteilen zu können. Im Folgenden wird auf die Benutzungsschnittstelle für die grundsätzlichen Funktionalitäten eingegangen. Eine detailliertere Beschreibung (insbesondere der Syntax für die Nutzung als Konsolenanwendung) findet sich in <TextLink reference="1"></TextLink> (Anhang A) sowie in <TextLink reference="2"></TextLink>; weitere Details können auch der Dokumentation des Quelltextes entnommen werden (JAVADOC).</Pgraph><SubHeadline2>2.3.1 Lernen und Revision von Wissensbasen</SubHeadline2><Pgraph>Um eine Wissensbasis aus einem Datensatz zu lernen, muss dieser dem Lernmodul als Eingabe in Form von <Mark2>n</Mark2> Income- und einer Outcome-Spalte geliefert werden. Es wird dann eine Wissensbasis mit höchstens <Mark2>n</Mark2>+1 Ebenen zurückgegeben. Für das Lernmodul der INTEKRATOR Toolbox existieren dabei im Wesentlichen folgende Optionen: </Pgraph><Pgraph><UnorderedList><ListItem level="1"><Mark2>Kompaktheit der gelernten Wissensbasis</Mark2>: Es kann festgelegt werden, ob nur für den Eingabedatensatz relevante Regeln repräsentiert werden sollen, oder ob auf jeden Fall eine Regel auf der allgemeinsten Ebene bzw. <Mark2>alle</Mark2> aus den Daten gelernten Regeln geliefert werden sollen (auch wenn diese zur Beantwortung von Inferenzanfragen aus dem Datensatz, aus dem sie gelernt wurden, nicht benötigt werden). </ListItem><ListItem level="1"><Mark2>Diskretisierung:</Mark2> Das Abbilden von numerischen Daten auf für die Regelbildung verwendbare Symbole kann vollständig automatisiert durch Clustering oder aber auch durch die manuelle Vorgabe der Anzahl und Namen von Clustern innerhalb einer bestimmten Spalte eines Datensatzes erfolgen. </ListItem><ListItem level="1"><Mark2>Vorselektion:</Mark2> Bei höher-dimensionalen Datensätzen kann eine Vorselektion für die Regelbildung potentiell relevanter Income-Spalten erfolgen, um die Berechnungszeit zu reduzieren. Die Vorselektion kann automatisiert oder halb-automatisiert (durch Vorgabe einer gewünschten Anzahl Spalten) erfolgen. </ListItem><ListItem level="1"><Mark2>Sampling:</Mark2> Es kann festgelegt werden, ob die Wissensbasis nur aus einer Stichprobe des Eingabedatensat<TextGroup><PlainText>z</PlainText></TextGroup>es gelernt werden soll, was ebenfalls zur Verringerung der Berechnungszeit beitragen kann. </ListItem></UnorderedList></Pgraph><Pgraph>Gelernte Wissensbasen lassen sich nachträglich mittels des Revisionsmoduls mit neuen Regeln revidieren. Dabei ist zu beachten, dass potentiell ungewollte Nebeneffekt<TextGroup><PlainText>e auf</PlainText></TextGroup> bereits enthaltenes Wissen nur dann umgangen werden können, wenn die Revision mit einer Regel mit Prämissenlänge <Mark2>n</Mark2> auf der untersten Ebene erfolgt (bei <Mark2>n</Mark2> Income-Spalten also auf Ebene <Mark2>n</Mark2>+1). (Dies ist der Fall, da sich die neue Regel dann nur auf die spezielle Konstellation der <Mark2>n</Mark2> Merkmalsausprägungen bezieht.) </Pgraph><SubHeadline2>2.3.2 Inferenzanfragen und Evaluation von Wissensbasen</SubHeadline2><Pgraph>An eine gelernte (oder auch manuell modellierte) Wissensbasis lassen sich Inferenzanfragen stellen, indem eine Eingabe bestehend aus einer oder mehreren unterschiedlichen Merkmalsausprägungen an das Inferenzmodul geliefert wird. Das Inferenzmodul gibt daraufhin die entsprechende Ergebnisausprägung mit einer annotierten bedingten Wahrscheinlichkeit zurück. Optional ist es möglich, sich zusätzlich die Regel(n) ausgeben zu lassen, auf Basis derer die Entscheidung für das zurückgegebene Inferenzergebnis getroffen wurde. </Pgraph><Pgraph>Darüber hinaus lässt sich eine Wissensbasis gegen einen Datensatz evaluieren, um die Qualität der Wissensbasis beurteilen zu können. Das Check-Modul der INTEKRATOR Toolbox prüft dann für eine gegebene Wissensbasis und einen Datensatz, für welchen Anteil der im Datensatz enthaltenen Datenzeilen der korrekte Outcome aus den Income-Merkmalen geschlussfolgert werden kann. Auf diese Weise kann auch eine aus einem Trainingsdatensatz gelernte Wissensbasis gegen einen Testdatensatz evaluiert werden (etwa durch entsprechendes vorheriges Teilen des Datensatzes). </Pgraph></TextBlock> <TextBlock linked="yes" name="3 Ergebnisse"> <MainHeadline>3 Ergebnisse</MainHeadline><Pgraph>In <TextLink reference="1"></TextLink> sind Verfahren zur Gewinnung von explizitem verständlichen Wissen aus lernenden Systemen sowie deren Nutzung innerhalb der lernenden Systeme selbst entstanden. Die relevantesten Ergebnisse werden im Folgenden kurz hinsichtlich ihrer Anwendbarkeit in medizinischen Anwendungen – insbesondere in entscheidungsunterstützenden Systemen – beleuchtet. </Pgraph><Pgraph>Zur Repräsentation des gewonnenen Wissens wurde ein Wissensrepräsentationsformalismus beschrieben, welcher insbesondere auf lernende Agenten zugeschnitten und dabei verständlich ist (hinsichtlich der Verständlichkeit, siehe auch die gemeinsame Arbeit <TextLink reference="11"></TextLink>). Unterschiedliche Lernalgorithmen ermöglichen die automatisierte Gewinnung solcher Repräsentationen aus lernenden Systemen. Durch das Auffassen von Spalten eines Datensatzes als sensorische Daten eines Agenten, lässt sich der Ansatz und seine Verständlichkeit auch für medizinische Datensätze nutzbar machen. Durch den in <TextLink reference="1"></TextLink> entwickelten Inferenzalgorithmus lässt sich das so gelernte explizite Wissen auch ähnlich wie ein Expertensystem betrachten und anfragen. </Pgraph><Pgraph>Auf Basis des aus Daten gewonnenen Wissens wurde im Rahmen einer gemeinsamen Arbeit (siehe <TextLink reference="12"></TextLink>) zudem ein Maß für die subjektiv empfundene Schwierigkeit von Computerspielen entwickelt. Diese folgt dem Grundge<TextGroup><PlainText>d</PlainText></TextGroup>anken, dass Spiele, zu deren Bewältigung Wissen mit zahlreichen Ausnahmen und Ausnahmen von Ausnahmen, etc. nötig ist, als schwieriger empfunden werden als solche, für die ein weniger ausnahmebehaftetes Wissen hinreichend ist. Obgleich dieser Ansatz grundsätzlich auch auf aus medizinischen Daten gelerntes Wissen angewendet werden kann, scheint eine sinnvolle Anwendung in diesem Bereich weniger offensichtlich. </Pgraph><Pgraph>Auch die entstandenen Agentenmodelle, die die Ausnutzung von gelerntem expliziten Wissen während eines (bestärkenden) Lernprozesses zulassen, scheinen zunächst keinen offensichtlichen Nutzen für medizin-inf<TextGroup><PlainText>or</PlainText></TextGroup>matische Anwendungen erkennen zu lassen. Allerdings ist hier das Agentenmodell zum Lernen von sogenannten Vorwärtsmodellen hervorzuheben (siehe auch die gemeinsamen Arbeiten <TextLink reference="3"></TextLink>, <TextLink reference="13"></TextLink>), d.h. solche Modelle, die es ermöglichen, von dem Zustand eines Agenten und einer Aktion auf einen Folgezustand zu schließen. Hier wären beispielsweise Anwendungen für medizinische Datensätze denkbar, bei denen der Zustand eines Patienten oder einer Erkrankung nach einer oder mehrerer subsequenter Behandlungen (Aktionen) von Interesse ist. </Pgraph><Pgraph>Als weiteres Ergebnis lässt sich hier abschließend die INTEKRATOR Toolbox <TextLink reference="2"></TextLink> anführen. Diese ermöglicht es, die zentralen Ansätze und Verfahren in einfacher Art und Weise auf medizinische (sowie auch andere) Datensätze anzuwenden. In <TextLink reference="14"></TextLink> wird sie etwa für weitere Forschung im Zusammenhang mit Empfehlungen zur Entscheidungsunterstützung bei Krebstherapien eingesetzt. </Pgraph></TextBlock> <TextBlock linked="yes" name="4 Diskussion und Fazit"> <MainHeadline>4 Diskussion und Fazit</MainHeadline><Pgraph>Der Transfer von Verfahren aus Forschungsbereichen wie der Künstlichen Intelligenz kann es ermöglichen, Potentiale für die Medizinische Informatik (z.B. für entscheidungsunterstützende Systeme) zu erschließen. Aus den hier betrachteten Vorarbeiten ist dabei ein System entstanden, welches potentiell auch praktischen Mehrwert für den Einsatz in medizinischen Anwendungen hat. Im Gegensatz zu Ansätzen auf Basis von neuronalen Netze<TextGroup><PlainText>n und</PlainText></TextGroup> Deep Learning, ermöglicht die INTEKRATOR Toolbox das Gelernte zu explizieren und Erklärungen für Schlussfolgerungen zu liefern. Für den Einsatz von KI-Verfahren in der Medizin kann dies ein Vorteil sein, der das Vertrauen in solche KI-Verfahren und das Zusammenspiel zwischen Mensch und Maschine verbessern kann. </Pgraph><Pgraph>Als Limitation des aus den betrachteten Vorarbeiten entstandenen Systems lässt sich hier insbesondere anführen, dass eine Evaluation an Realdaten noch aussteht. Als erster Ansatz dazu kann <TextLink reference="14"></TextLink> (eine Anwendung auf semi-synthetische medizinische Daten) verstanden werden. </Pgraph><Pgraph>Auch darüber hinaus bietet das entstandene System noch viel Raum für weitere Forschung, Verbesserungen und Weiterentwicklungen: So werden aktuell Datenschutza<TextGroup><PlainText>s</PlainText></TextGroup>pekte näher betrachtet (welche etwa auch für einige sich zum Teil noch in der Entwicklung befindenden Richtlinien zur KI-Regulation relevant sein könnten) und zukünftig sollen weitere Verbesserungen und Erweiterungen vorgenommen werden.</Pgraph></TextBlock> <TextBlock linked="yes" name="Anmerkungen"> <MainHeadline>Anmerkungen</MainHeadline><SubHeadline>Interessenkonflikte</SubHeadline><Pgraph>Der Autor erklärt, dass er keine Interessenkonflikte in Zusammenhang mit diesem Artikel hat.</Pgraph><SubHeadline>Danksagung</SubHeadline><Pgraph>Teile weiterer Forschung im Kontext dieser Arbeit werden durch die Carl-Zeiss-Stiftung finanziert: P2021-02-014 (TOPML-Projekt). </Pgraph></TextBlock> <References linked="yes"> <Reference refNo="1"> <RefAuthor>Apeldoorn D</RefAuthor> <RefTitle></RefTitle> <RefYear>2023</RefYear> <RefBookTitle>Comprehensible Knowledge Base Extraction for Learning Agents - Practical Challenges and Applications in Games.Dissertation at the Department of Computer Science of TU Dortmund University</RefBookTitle> <RefPage></RefPage> <RefTotal>Apeldoorn D. Comprehensible Knowledge Base Extraction for Learning Agents - Practical Challenges and Applications in Games. Dissertation at the Department of Computer Science of TU Dortmund University. Mainz: Universitätsbibliothek der Johannes Gutenberg-Universität Mainz; 2023. DOI: 10.25358/openscience-9303</RefTotal> <RefLink>https://doi.org/10.25358/openscience-9303</RefLink> </Reference> <Reference refNo="2"> <RefAuthor>Apeldoorn D</RefAuthor> <RefTitle></RefTitle> <RefYear></RefYear> <RefBookTitle>InteKRator Toolbox</RefBookTitle> <RefPage></RefPage> <RefTotal>Apeldoorn D. InteKRator Toolbox. GitLab repository; [visited 2023 Mar 31]. Available from: https://gitlab.com/dapel1/intekrator_toolbox/</RefTotal> <RefLink>https://gitlab.com/dapel1/intekrator_toolbox/</RefLink> </Reference> <Reference refNo="3"> <RefAuthor>Apeldoorn D</RefAuthor> <RefAuthor>Dockhorn A</RefAuthor> <RefTitle>Exception-Tolerant Hierarchical Knowledge Bases for Forward Model Learning</RefTitle> <RefYear>2021</RefYear> <RefJournal>IEEE Transactions on Games</RefJournal> <RefPage>249-62</RefPage> <RefTotal>Apeldoorn D, Dockhorn A. Exception-Tolerant Hierarchical Knowledge Bases for Forward Model Learning. IEEE Transactions on Games. 2021;13(3):249-62. DOI: 10.1109/TG.2020.3008002</RefTotal> <RefLink>https://doi.org/10.1109/TG.2020.3008002</RefLink> </Reference> <Reference refNo="4"> <RefAuthor>Apeldoorn D</RefAuthor> <RefAuthor>Kern-Isberner G</RefAuthor> <RefTitle>Towards an Understanding of What is Learned: Extracting Multi-Abstraction-Level Knowledge from Learning Agents</RefTitle> <RefYear>2017</RefYear> <RefBookTitle>Proceedings of the Thirtieth International Florida Artificial Intelligence Research Society Conference (FLAIRS 2017); 2017 May 22-24; Marco Island, FL, USA</RefBookTitle> <RefPage>764-7</RefPage> <RefTotal>Apeldoorn D, Kern-Isberner G. Towards an Understanding of What is Learned: Extracting Multi-Abstraction-Level Knowledge from Learning Agents. In: Rus V, Markov Z, editors. Proceedings of the Thirtieth International Florida Artificial Intelligence Research Society Conference (FLAIRS 2017); 2017 May 22-24; Marco Island, FL, USA. Palo Alto: AAAI Press; 2017. p. 764-7.</RefTotal> </Reference> <Reference refNo="5"> <RefAuthor>Apeldoorn D</RefAuthor> <RefAuthor>Panholzer T</RefAuthor> <RefTitle>Automated Creation of Expert Systems with the InteKRator Toolbox. Studies in Health Technology and Informatics</RefTitle> <RefYear>2021</RefYear> <RefJournal>Stud Health Technol Inform</RefJournal> <RefPage>46-55</RefPage> <RefTotal>Apeldoorn D, Panholzer T. Automated Creation of Expert Systems with the InteKRator Toolbox. Studies in Health Technology and Informatics. Stud Health Technol Inform. 2021;283:46-55. DOI: 10.3233/SHTI210540</RefTotal> <RefLink>https://doi.org/10.3233/SHTI210540</RefLink> </Reference> <Reference refNo="6"> <RefAuthor>Beierle C</RefAuthor> <RefAuthor>Kern-Isberner G</RefAuthor> <RefTitle></RefTitle> <RefYear>2008</RefYear> <RefBookTitle>Methoden wissensbasierter Systeme – Grundlagen, Algorithmen, Anwendungen</RefBookTitle> <RefPage></RefPage> <RefTotal>Beierle C, Kern-Isberner G. Methoden wissensbasierter Systeme – Grundlagen, Algorithmen, Anwendungen. 4th ed. Wiesbaden: Vieweg+Teubner; 2008.</RefTotal> </Reference> <Reference refNo="7"> <RefAuthor>Holzinger A</RefAuthor> <RefTitle>Explainable AI (ex-AI)</RefTitle> <RefYear>2018</RefYear> <RefJournal>Informatikspektrum</RefJournal> <RefPage>138-43</RefPage> <RefTotal>Holzinger A. Explainable AI (ex-AI). Informatikspektrum. 2018;41:138-43. DOI: 10.1007/s00287-018-1102-5</RefTotal> <RefLink>https://doi.org/10.1007/s00287-018-1102-5</RefLink> </Reference> <Reference refNo="8"> <RefAuthor>Reiter R</RefAuthor> <RefTitle>A Logic for Default Reasoning</RefTitle> <RefYear>1980</RefYear> <RefJournal>Artificial Intelligence</RefJournal> <RefPage>81-132</RefPage> <RefTotal>Reiter R. A Logic for Default Reasoning. Artificial Intelligence. 1980;13(1-2):81-132. DOI: 10.1016/0004-3702(80)90014-4</RefTotal> <RefLink>https://doi.org/10.1016/0004-3702(80)90014-4</RefLink> </Reference> <Reference refNo="9"> <RefAuthor>Brewka G</RefAuthor> <RefAuthor>Eiter T</RefAuthor> <RefAuthor>Truszczyński M</RefAuthor> <RefTitle>Answer Set Programming at a Glance</RefTitle> <RefYear>2011</RefYear> <RefJournal>Commun ACM</RefJournal> <RefPage>92-103</RefPage> <RefTotal>Brewka G, Eiter T, Truszczyński M. Answer Set Programming at a Glance. Commun ACM. 2011;54(12):92-103. DOI: 10.1145/2043174.2043195</RefTotal> <RefLink>https://doi.org/10.1145/2043174.2043195</RefLink> </Reference> <Reference refNo="10"> <RefAuthor>Steinley D</RefAuthor> <RefTitle>K-means clustering: A half-century synthesis</RefTitle> <RefYear>2006</RefYear> <RefJournal>British Journal of Mathematical and Statistical Psychology</RefJournal> <RefPage>1-34</RefPage> <RefTotal>Steinley D. K-means clustering: A half-century synthesis. British Journal of Mathematical and Statistical Psychology. 2006;59(1):1-34. DOI: 10.1348/000711005X48266</RefTotal> <RefLink>https://doi.org/10.1348/000711005X48266</RefLink> </Reference> <Reference refNo="15"> <RefAuthor>Sutton RS</RefAuthor> <RefAuthor>Barto AG</RefAuthor> <RefTitle></RefTitle> <RefYear>2018</RefYear> <RefBookTitle>Reinforcement Learning: An Introduction</RefBookTitle> <RefPage></RefPage> <RefTotal>Sutton RS, Barto AG. Reinforcement Learning: An Introduction. 2nd ed. Cambridge, Massachusetts: The MIT Press; 2018.</RefTotal> </Reference> <Reference refNo="11"> <RefAuthor>Krüger C</RefAuthor> <RefAuthor>Apeldoorn D</RefAuthor> <RefAuthor>Kern-Isberner G</RefAuthor> <RefTitle>Comparing Answer Set Programming and Hierarchical Knowledge Bases Regarding Comprehensibility and Reasoning Efficiency in the Context of Agents</RefTitle> <RefYear>2017</RefYear> <RefTotal>Krüger C, Apeldoorn D, Kern-Isberner G. Comparing Answer Set Programming and Hierarchical Knowledge Bases Regarding Comprehensibility and Reasoning Efficiency in the Context of Agents. In: Proceedings of the 30th International Workshop on Qualitative Reasoning (QR 2017) at International Joint Conference on Artificial Intelligence (IJCAI 2017); 2017 Aug 21; Melbourne, Australia. Evanston, IL: Northwestern University; 2017.</RefTotal> </Reference> <Reference refNo="12"> <RefAuthor>Apeldoorn D</RefAuthor> <RefAuthor>Volz V</RefAuthor> <RefTitle>Measuring Strategic Depth in Games Using Hierarchical Knowledge Bases</RefTitle> <RefYear>2017</RefYear> <RefBookTitle>2017 IEEE Conference on Computational Intelligence and Games (CIG’17); 2017 Aug 22-25; New York, USA</RefBookTitle> <RefPage>9-16</RefPage> <RefTotal>Apeldoorn D, Volz V. Measuring Strategic Depth in Games Using Hierarchical Knowledge Bases. In: 2017 IEEE Conference on Computational Intelligence and Games (CIG’17); 2017 Aug 22-25; New York, USA. Piscataway: IEEE; 2017. p. 9-16. DOI: 10.1109/CIG.2017.8080409</RefTotal> <RefLink>https://doi.org/10.1109/CIG.2017.8080409</RefLink> </Reference> <Reference refNo="13"> <RefAuthor>Dockhorn A</RefAuthor> <RefAuthor>Apeldoorn D</RefAuthor> <RefTitle>Forward Model Approximation for General Video Game Learning</RefTitle> <RefYear>2018</RefYear> <RefBookTitle>Proceedings of the 2018 IEEE Conference on Computational Intelligence and Games (CIG’18); 2018 Aug 14-17; Maastricht, Netherlands</RefBookTitle> <RefPage>425-32</RefPage> <RefTotal>Dockhorn A, Apeldoorn D. Forward Model Approximation for General Video Game Learning. In: Proceedings of the 2018 IEEE Conference on Computational Intelligence and Games (CIG’18); 2018 Aug 14-17; Maastricht, Netherlands. Piscataway: IEEE; 2018. p. 425-32. DOI: 10.1109/CIG.2018.8490411</RefTotal> <RefLink>https://doi.org/10.1109/CIG.2018.8490411</RefLink> </Reference> <Reference refNo="14"> <RefAuthor>Thevapalan A</RefAuthor> <RefAuthor>Apeldoorn D</RefAuthor> <RefAuthor>Kern-Isberner G</RefAuthor> <RefAuthor>Meyer RG</RefAuthor> <RefAuthor>Nietzke M</RefAuthor> <RefAuthor>Panholzer T</RefAuthor> <RefTitle>Comparison and Incorporation of Reasoning and Learning Approaches for Cancer Therapy Research</RefTitle> <RefYear>2023</RefYear> <RefJournal>Stud Health Technol Inform</RefJournal> <RefPage>161-71</RefPage> <RefTotal>Thevapalan A, Apeldoorn D, Kern-Isberner G, Meyer RG, Nietzke M, Panholzer T. Comparison and Incorporation of Reasoning and Learning Approaches for Cancer Therapy Research. Stud Health Technol Inform. 2023;307:161-71. DOI: 10.3233/SHTI230709</RefTotal> <RefLink>https://doi.org/10.3233/SHTI230709</RefLink> </Reference> </References> <Media> <Tables> <NoOfTables>0</NoOfTables> </Tables> <Figures> <Figure format="png" height="252" width="585"> <MediaNo>1</MediaNo> <MediaID>1</MediaID> <Caption><Pgraph><Mark1>Abbildung 1: Gelerntes Wissens eines Agenten</Mark1><LineBreak></LineBreak>Ein Agent hat mit Methoden des maschinellen Lernens das Verhalten gelernt, die rote Spielfigur um das Wasser zu navigieren (linker Teil). Dieses Verhalten lässt sich in kompakter Form durch mehrstufige Regeln mit Ausnahmen in einer Wissensbasis (<Mark2>KB</Mark2>) darstellen (rechter Teil). Das Wissen lässt sich dabei von oben nach unten wie folgt lesen: „Normalerweise (siehe Ebene <Mark2>R</Mark2><Mark2><Subscript>1</Subscript></Mark2>) sollte der Agent die Spielfigur nach <Mark2>rechts</Mark2> bewegen, es sei denn (siehe Ebene <Mark2>R</Mark2><Mark2><Subscript>2</Subscript></Mark2>), sie befindet sich an <Mark2>x</Mark2>-Position <Mark2>x</Mark2><Mark2><Subscript>1</Subscript></Mark2>, dann sollte der Agent sie nach <Mark2>oben</Mark2> bewegen oder, wenn sie sich bei <Mark2>x</Mark2><Mark2><Subscript>8</Subscript></Mark2> befindet, dann sollte er sie nach <Mark2>unten</Mark2> bewegen. Befindet sich die Spielfigur (siehe Ebene <Mark2>R</Mark2><Mark2><Subscript>3</Subscript></Mark2>) an Position <Mark2>x</Mark2><Mark2><Subscript>1</Subscript></Mark2> und <Mark2>y</Mark2><Mark2><Subscript>6</Subscript></Mark2>, sollte er sie nach <Mark2>rechts</Mark2> bewegen“. Die an den Regeln annotierten Gewichte stellen dabei die bedingten Wahrscheinlichkeiten der Konklusionen, gegeben die Prämissen der Regeln, dar.<LineBreak></LineBreak>Quellen: Bearbeitung von Figure 3.1 in [1], welche auf Figure 1 in [12] beruht, Nutzung mit Erlaubnis von IEEE. Linker Teil nach [15], © Richard S. Sutton and Andrew G. Barto, CC BY-NC-ND 4.0 (https://creativecommons.org/licenses/by-nc-nd/4.0/)</Pgraph></Caption> </Figure> <Figure format="png" height="401" width="660"> <MediaNo>2</MediaNo> <MediaID>2</MediaID> <Caption><Pgraph><Mark1>Abbildung 2: Wissen Lernen mit INTEKRATOR</Mark1><LineBreak></LineBreak>Anstelle der Sensordaten und des Verhaltens eines Agenten tritt hier ein exemplarischer medizinischer Datensatz (oben). Durch das Anwenden des zuvor entwickelten Lernalgorithmus wird eine Wissensbasis gewonnen, die den Datensatz in Form von Regeln mit Ausnahmen repräsentiert (links unten). Diese lässt sich von oben nach unten lesen (rechts unten). Ein Beweis für die Vollständigkeit des Lernalgorithmus findet sich in [1]. <LineBreak></LineBreak>Quelle: Bearbeitung von Figure 2 in [5], CC BY-NC 4.0 (https://creativecommons.org/licenses/by-nc/4.0/) </Pgraph></Caption> </Figure> <Figure format="png" height="351" width="563"> <MediaNo>3</MediaNo> <MediaID>3</MediaID> <Caption><Pgraph><Mark1>Abbildung 3: Inferenz mit INTEKRATOR</Mark1><LineBreak></LineBreak>Aus einer gelernten Wissensbasis (siehe Abbildung 2) lassen sich bei gegebenen Informationen Schlussfolgerungen ableiten. Diese enthalten insbesondere auch die Regel(n), von denen die Schlussfolgerungen abgeleitet wurden, als Erklärung. <LineBreak></LineBreak>Quelle: Bearbeitung von Figure 3 in [5], CC BY-NC 4.0 (https://creativecommons.org/licenses/by-nc/4.0/) </Pgraph></Caption> </Figure> <NoOfPictures>3</NoOfPictures> </Figures> <InlineFigures> <NoOfPictures>0</NoOfPictures> </InlineFigures> <Attachments> <NoOfAttachments>0</NoOfAttachments> </Attachments> </Media> </OrigData> </GmsArticle>