<?xml version="1.0" encoding="iso-8859-1" standalone="no"?>
<!DOCTYPE GmsArticle SYSTEM "http://www.egms.de/dtd/2.0.34/GmsArticle.dtd">
<GmsArticle xmlns:xlink="http://www.w3.org/1999/xlink">
  <MetaData>
    <Identifier>zma001241</Identifier>
    <IdentifierDoi>10.3205/zma001241</IdentifierDoi>
    <IdentifierUrn>urn:nbn:de:0183-zma0012413</IdentifierUrn>
    <ArticleType language="en">short report</ArticleType>
    <ArticleType language="de">Kurzbeitrag</ArticleType>
    <TitleGroup>
      <Title language="en">Design and implementation of virtual patients for learning of clinical reasoning</Title>
      <TitleTranslated language="de">Gestaltung und curriculare Einbindung Virtueller Patienten zum Erlernen klinischen Denkens</TitleTranslated>
    </TitleGroup>
    <CreatorList>
      <Creator>
        <PersonNames>
          <Lastname>Huwendiek</Lastname>
          <LastnameHeading>Huwendiek</LastnameHeading>
          <Firstname>S&#246;ren</Firstname>
          <Initials>S</Initials>
          <AcademicTitle>Prof. Dr. Dr. med.</AcademicTitle>
          <AcademicTitleSuffix>MME</AcademicTitleSuffix>
        </PersonNames>
        <Address language="en">University of Bern, Medical Faculty, Institute for Medical Education, Department for Assessment and Evaluation, Mittelstr. 43, CH-3012 Bern Switzerland<Affiliation>University of Bern, Medical Faculty, Institute for Medical Education, Department for Assessment and Evaluation, Bern Switzerland</Affiliation><WebPage>https:&#47;&#47;www.iml.unibe.ch</WebPage></Address>
        <Address language="de">Universit&#228;t Bern, Medizinische Fakult&#228;t, Institut f&#252;r Medizinische Lehre, Abteilung f&#252;r Assessment und Evaluation, Mittelstr. 43, CH-3012 Bern, Schweiz<Affiliation>Universit&#228;t Bern, Medizinische Fakult&#228;t, Institut f&#252;r Medizinische Lehre, Abteilung f&#252;r Assessment und Evaluation, Bern, Schweiz</Affiliation></Address>
        <Email>soeren.huwendiek&#64;iml.unibe.ch</Email>
        <Creatorrole corresponding="yes" presenting="no">author</Creatorrole>
      </Creator>
    </CreatorList>
    <PublisherList>
      <Publisher>
        <Corporation>
          <Corporatename>German Medical Science GMS Publishing House</Corporatename>
        </Corporation>
        <Address>D&#252;sseldorf</Address>
      </Publisher>
    </PublisherList>
    <SubjectGroup>
      <SubjectheadingDDB>610</SubjectheadingDDB>
      <Keyword language="en">virtual patients</Keyword>
      <Keyword language="en">implementation</Keyword>
      <Keyword language="en">blended learning</Keyword>
      <Keyword language="en">elearning</Keyword>
      <Keyword language="en">evaluation</Keyword>
      <Keyword language="de">Virtuelle Patienten</Keyword>
      <Keyword language="de">Design</Keyword>
      <Keyword language="de">Curriculare Einbindung</Keyword>
      <Keyword language="de">Blended Learning</Keyword>
      <Keyword language="de">E-Learning</Keyword>
      <Keyword language="de">Evaluation</Keyword>
      <SectionHeading language="en">Clinical Reasoning</SectionHeading>
      <SectionHeading language="de">Klinisches Denken</SectionHeading>
    </SubjectGroup>
    <DateReceived>20180921</DateReceived>
    <DateRevised>20190308</DateRevised>
    <DateAccepted>20190415</DateAccepted>
    <DatePublishedList>
      
    <DatePublished>20190815</DatePublished></DatePublishedList>
    <Language>engl</Language>
    <LanguageTranslation>germ</LanguageTranslation>
    <License license-type="open-access" xlink:href="http://creativecommons.org/licenses/by/4.0/">
      <AltText language="en">This is an Open Access article distributed under the terms of the Creative Commons Attribution 4.0 License.</AltText>
      <AltText language="de">Dieser Artikel ist ein Open-Access-Artikel und steht unter den Lizenzbedingungen der Creative Commons Attribution 4.0 License (Namensnennung).</AltText>
    </License>
    <SourceGroup>
      <Journal>
        <ISSN>2366-5017</ISSN>
        <Volume>36</Volume>
        <Issue>4</Issue>
        <JournalTitle>GMS Journal for Medical Education</JournalTitle>
        <JournalTitleAbbr>GMS J Med Educ</JournalTitleAbbr>
      </Journal>
    </SourceGroup>
    <ArticleNo>33</ArticleNo>
  </MetaData>
  <OrigData>
    <Abstract language="de" linked="yes"><Pgraph><Mark1>Einf&#252;hrung: </Mark1>Virtuelle Patienten (VP) sind elektronische interaktive Patienten. Ziel dieser PhD-Arbeit war es, zu untersuchen, wie die Gestaltung und curriculare Einbindung von VP verbessert werden kann, um das Erlernen klinischen Denkens zu unterst&#252;tzen. </Pgraph><Pgraph><Mark1>Methoden: </Mark1>Dieser PhD-Bericht beruht auf f&#252;nf aufeinanderfolgenden Studien. Unter Verwendung von Fokusgruppen mit Medizinstudierenden untersuchten wir Gestaltungsmerkmale VP. Eine modifizierte Delphi-Studie unter VP-Experten wurde verwendet, um eine VP-Design-Typologie zu erstellen. Ein Fragebogen wurde entwickelt und bzgl. Validit&#228;tskriterien untersucht, um die VP-Gestaltung aus studentischer Perspektive zu evaluieren. In Fokusgruppen mit Studierenden untersuchten wir, wie VP optimal in ein Curriculum eingebunden werden k&#246;nnen. Weiterhin untersuchten wir mit Fokusgruppen die Wahrnehmung der Studierenden von zwei verschiedenen Pr&#252;fungsfragetypen, die den Lernerfolg mit VP pr&#252;ften, und untersuchten, ob sich die psychometrischen Eigenschaften dieser Fragetypen voneinander unterschieden.  </Pgraph><Pgraph><Mark1>Ergebnisse: </Mark1>Aspekte zur Verbesserung der VP-Gestaltung: </Pgraph><Pgraph><OrderedList><ListItem level="1" levelPosition="1" numString="1.">Verwendung der beschriebenen Designkriterien, wie z. B. Gew&#228;hrleistung eines angemessenen Schwierigkeitsgrades, Authentizit&#228;t, Interaktivit&#228;t, Feedback und Konzentration auf relevante Lernpunkte, </ListItem><ListItem level="1" levelPosition="2" numString="2.">Umsetzung eines virtuellen Coachings bzgl. klinischem Denken im Rahmen der VP, wie z. B. Fragen nach unterscheidenden und best&#228;tigenden Merkmalen bei Differenzialdiagnosen, und </ListItem><ListItem level="1" levelPosition="3" numString="3.">Bereitstellung theorie-gest&#252;tzter Instrumente f&#252;r systematische Verbesserungen, wie z. B. die entwickelte VP-Typologie und der VP-Design-Fragebogen. </ListItem></OrderedList></Pgraph><Pgraph>Aspekte der Verbesserung der curricularen Einbindung von VP: </Pgraph><Pgraph><OrderedList><ListItem level="1" levelPosition="4" numString="4.">Sequenz der VP und sonstiger curricularer Aktivit&#228;ten gem&#228;&#223; Komplexit&#228;t sowie der didaktischen und inhaltlichen Abstimmung von </ListItem><ListItem level="1" levelPosition="5" numString="5.">Lernen und </ListItem><ListItem level="1" levelPosition="6" numString="6.">Pr&#252;fen unter Verwendung von VP. </ListItem></OrderedList></Pgraph><Pgraph><Mark1>Schlussfolgerung: </Mark1>Unsere Ergebnisse stimmen &#252;berein mit Erkenntnissen au&#223;erhalb der VP-Forschung. Unsere Studien zeigen, wie VP gestaltet, systematisch verbessert und curricular eingebunden werden k&#246;nnen, um das Erlernen klinischen Denkens zu unterst&#252;tzen.</Pgraph></Abstract>
    <Abstract language="en" linked="yes"><Pgraph><Mark1>Introduction: </Mark1>Virtual Patients (VP) are electronic interactive  patient cases. The aim of this PhD project was to explore how to improve the design and implementation of VPs to foster learning of clinical reasoning. </Pgraph><Pgraph><Mark1>Methods: </Mark1>This PhD report is based on five consecutive studies. Using focus groups among clerkship students, we explored design features of VP. A modified Delphi study among VP experts was used to establish a VP design typology. Validity evidence was established for a questionnaire to evaluate VP design from the student perspective. In student focus groups, we explored features on how to implement VP into a clerkship. Further, we explored students&#8217; perception of different exam formats, in an assessment of a clerkship which includes learning with VP, by focus groups, and examined whether their psychometric properties differ.  </Pgraph><Pgraph><Mark1>Results: </Mark1>Aspects to improve VP design: </Pgraph><Pgraph><OrderedList><ListItem level="1" levelPosition="1" numString="1.">using instructional design criteria such as ensuring an appropriate level of difficulty, authenticity, interactivity, feedback, and focusing on relevant learning points, </ListItem><ListItem level="1" levelPosition="2" numString="2.">implementing virtual coaching on clinical reasoning into the VP, such as asking for discriminating and confirming features, and </ListItem><ListItem level="1" levelPosition="3" numString="3.">providing theory-guided instruments for systematic improvements such as the developed VP typology and VP design questionnaire. </ListItem></OrderedList></Pgraph><Pgraph>Aspects to improve VP implementation: </Pgraph><Pgraph><OrderedList><ListItem level="1" levelPosition="4" numString="4.">sequencing VP and other educational activities according to complexity, and aligning </ListItem><ListItem level="1" levelPosition="5" numString="5.">instruction and</ListItem><ListItem level="1" levelPosition="6" numString="6.">assessment with the use of VP. </ListItem></OrderedList></Pgraph><Pgraph><Mark1>Conclusion:</Mark1> Our results are in line with insights outside of VP research. Our studies demonstrate how VP can be designed, systematically further improved, and implemented to foster learning of clinical reasoning.</Pgraph></Abstract>
    <TextBlock language="en" linked="yes" name="Introduction">
      <MainHeadline>Introduction</MainHeadline><Pgraph>Clinical reasoning is generally seen as a crucial component of nearly everything doctors do in practice <TextLink reference="4"></TextLink>. It guides them to make correct diagnoses and reach appropriate treatment decisions for their patients. As such, a physician&#8217;s clinical reasoning skills are highly important and relevant for patient outcomes and patient safety <TextLink reference="3"></TextLink>. However, studies have indicated that clinical reasoning is currently not well taught <TextLink reference="7"></TextLink>. According to the literature, so-called Virtual Patients (VPs) are particularly suited to foster learning of clinical reasoning <TextLink reference="2"></TextLink>. Virtual Patients are online cases in which the learner, takes on the role of physician, is required to make all decisions him&#47;herself and subsequently receives feedback. Ellaway et al. <TextLink reference="5"></TextLink> define VP as &#8220;interactive computer simulation&#91;s&#93; of real-life clinical scenarios for the purpose of medical training, education, or assessment&#8221;. Two aspects have been found to be essential regarding learning with electronic learning tools such as VPs: their design and their implementation.</Pgraph><Pgraph>Literature on how to design and implement Virtual Patients to foster clinical reasoning was lacking when we embarked on this research. Therefore, at the outset of our research project, we sought evidence on how to improve learning with VPs in order to foster clinical reasoning in medical students. The main research question was as follows:</Pgraph><Pgraph><Indentation><Mark2>How can the design and implementation of Virtual Patients be improved in order to foster learning, particularly with respect to clinical reasoning&#63;</Mark2> </Indentation></Pgraph></TextBlock>
    <TextBlock language="de" linked="yes" name="Einf&#252;hrung">
      <MainHeadline>Einf&#252;hrung</MainHeadline><Pgraph>Klinisches Denken wird allgemein als entscheidende Komponente all dessen angesehen, was &#196;rzte in der Praxis tun <TextLink reference="4"></TextLink>. Es f&#252;hrt dazu, dass sie richtige Diagnosen stellen und angemessene Behandlungsentscheidungen f&#252;r ihre Patienten treffen. Daher sind die F&#228;higkeiten eines Arztes klinisches Denken betreffend &#228;u&#223;erst wichtig und relevant f&#252;r Behandlungserfolge und die Sicherheit des Patienten <TextLink reference="3"></TextLink>. Studien deuten jedoch darauf hin, dass klinisches Denken gegenw&#228;rtig nicht gut gelehrt wird <TextLink reference="7"></TextLink>. Entsprechend der Literatur sind sogenannte Virtuelle Patienten (VP) besonders geeignet, um das Erlernen klinischen Denkens zu unterst&#252;tzen <TextLink reference="2"></TextLink>. Virtuelle Patienten sind Online-F&#228;lle, bei denen der Lernende die Rolle des Arztes einnimmt, s&#228;mtliche Entscheidungen selbst treffen muss und jeweils Feedback erh&#228;lt. Ellaway und Kollegen <TextLink reference="5"></TextLink> definieren VP als &#8222;interaktive Computersimulation&#91;en&#93; echter klinischer Szenarien zum Zweck &#228;rztlicher Ausbildung, Schulung oder Assessment&#8220;. Zwei Aspekte wurden als wesentlich hinsichtlich des Lernens mit elektronischen Lern-Tools wie VP erachtet: ihre Gestaltung und ihre curriculare Einbindung.</Pgraph><Pgraph>Literatur dazu, wie Virtuelle Patienten gestaltet und curricular eingebunden werden sollten, um klinisches Denken zu unterst&#252;tzen, fehlte, als wir uns dieser Forschung zuwendeten. Daher suchten wir zu Beginn unseres Forschungsvorhabens nach Evidenz, wie man das Lernen mithilfe von VPs verbessern kann, um das klinische Denken von Medizinstudierenden zu unterst&#252;tzen. Die Haupt-Forschungsfrage lautete folgenderma&#223;en:</Pgraph><Pgraph><Indentation><Mark2>Wie kann die Gestaltung und curriculare Einbindung Virtueller Patienten verbessert werden, um das Lernen zu unterst&#252;tzen, insbesondere im Hinblick auf klinisches Denken&#63; </Mark2></Indentation></Pgraph></TextBlock>
    <TextBlock language="en" linked="yes" name="Methods">
      <MainHeadline>Methods</MainHeadline><Pgraph>Three of the five studies (studies 1,4,5) were conducted in an authentic educational practice setting, specifically a paediatric clinical clerkship. While in these three studies students in their paediatric clerkship were the main target of our investigation, in two studies (studies 2 and 3) VP experts and medical teachers, national and international, were strongly involved in the development of both the VP typology and the VP design questionnaire. Different research methods were used. In specific: </Pgraph><Pgraph><Mark1>Study 1</Mark1> explores students&#8217; perceptions of the ideal features of Virtual Patient design to foster their learning, focusing on clinical reasoning. Fifth year students (n&#61;104) were exposed to at least eight VPs varying in design, and discussed Virtual Patient design in focus groups <TextLink reference="11"></TextLink>. </Pgraph><Pgraph><Mark1>Study 2</Mark1> describes the development of a Virtual Patient typology based on the literature, a review of existing VP systems, results from study 1, and an international consensus process among Virtual Patient experts, applying a modified Delphi technique <TextLink reference="9"></TextLink>. The virtual patient expert team consisted of all six authors of this paper.</Pgraph><Pgraph><Mark1>Study 3</Mark1> reports on the development and validation of a questionnaire to evaluate Virtual Patient design, drawing on published evidence, input from an international VP expert team (from eVIP project, see www.virtualpatients.eu) and including the insights gained from studies 1 and 2. Three sources of validity evidence were examined: </Pgraph><Pgraph><OrderedList><ListItem level="1" levelPosition="1" numString="1.">Content, </ListItem><ListItem level="1" levelPosition="2" numString="2.">response process and </ListItem><ListItem level="1" levelPosition="3" numString="3.">internal structure <TextLink reference="8"></TextLink>.</ListItem></OrderedList></Pgraph><Pgraph><Mark1>Study 4</Mark1> seeks evidence to guide the implementation of Virtual Patients. Students&#8217; perceptions of different scenarios aimed at developing clinical reasoning skills were explored using focus groups (39 from 116 exposed students). In these scenarios, at least ten Virtual Patients were integrated with other educational activities during a paediatric clerkship <TextLink reference="10"></TextLink>.</Pgraph><Pgraph><Mark1>Study 5</Mark1> focuses on two different types of assessment question and explores their educational impact on the learning of clinical reasoning with Virtual Patients. After students (n&#61;377) underwent clinical clerkships and corresponding exams (n&#61;11), they  discussed in focus groups (n&#61;8) the perception and impact of Key-Feature Problems with Long Menu (KFP) and context-rich Single Best Answer questions (crSBA). The study additionally compares the psychometric characteristics of the two formats <TextLink reference="12"></TextLink>.</Pgraph></TextBlock>
    <TextBlock language="de" linked="yes" name="Methoden">
      <MainHeadline>Methoden</MainHeadline><Pgraph>Drei der f&#252;nf Studien (Studien 1, 4, 5) wurden in einem authentischen Setting durchgef&#252;hrt, genauer gesagt w&#228;hrend dem vierw&#246;chigen P&#228;diatrie-Modul. W&#228;hrend in diesen drei Studien die Studierenden die Hauptzielgruppe unserer Untersuchungen waren, waren in zwei anderen Studien (Studien 2 und 3) inl&#228;ndische und internationale VP-Experten ma&#223;geblich sowohl an der Entwicklung der VP-Typologie, als auch dem VP-Design-Fragebogen beteiligt. Es wurden unterschiedliche Forschungsmethoden angewendet, und zwar folgende: </Pgraph><Pgraph><Mark1>Studie 1</Mark1> untersucht die studentische Wahrnehmung idealer Design-Merkmale Virtueller Patienten, um das Lernen zu unterst&#252;tzen, mit dem Fokus auf klinisches Denken. Studierende des 5. Studienjahres (N&#61;104) bearbeiteten mindestens acht VP unterschiedlichen Designs, und diskutierten die ideale Gestaltung Virtueller Patienten in Fokusgruppen <TextLink reference="11"></TextLink>. </Pgraph><Pgraph><Mark1>Studie 2</Mark1> beschreibt die Entwicklung einer Typologie von Virtuellen Patienten basierend auf der Literatur, ihrer Anwendung mit bestehenden VP-Systemen, den Ergebnissen von Studie 1 und eines internationalen Konsensprozesses unter VP-Experten anhand einer modifizierten Delphi-Technik <TextLink reference="9"></TextLink>. Das VP-Expertenteam bestand aus allen sechs Autoren der Studie 2.</Pgraph><Pgraph><Mark1>Studie 3</Mark1> berichtet &#252;ber die Entwicklung und Validierung eines Fragebogens zur Evaluation des Designs Virtueller Patienten, und bezog internationale Ver&#246;ffentlichungen, Input eines internationalen Expertenteams (aus dem eVIP-Projekt, vgl. www.virtualpatients.eu) und die aus den Studien 1 und 2 gewonnenen Erkenntnisse mit ein. Drei Kategorien von Validit&#228;tsnachweisen wurden untersucht: </Pgraph><Pgraph><OrderedList><ListItem level="1" levelPosition="1" numString="1.">Inhalt, </ListItem><ListItem level="1" levelPosition="2" numString="2.">&#8222;Response process&#8220; und </ListItem><ListItem level="1" levelPosition="3" numString="3.">interne Struktur <TextLink reference="8"></TextLink>.</ListItem></OrderedList></Pgraph><Pgraph><Mark1>Studie 4</Mark1> untersucht, wie Virtuelle Patienten optimal curricular eingebunden werden sollten. Die studentische Wahrnehmung verschiedener Szenarien, die auf das Erlernen des klinischen Denkens gerichtet waren und VP miteinbezogen, wurde mit Hilfe von Fokusgruppen untersucht (mit 39 der 116 teilnehmenden Studierenden). In diese Szenarien wurden w&#228;hrend dem P&#228;diatrie-Modul mindestens zehn Virtuelle Patienten zusammen mit anderen didaktischen Aktivit&#228;ten integriert <TextLink reference="10"></TextLink>.</Pgraph><Pgraph><Mark1>Studie 5</Mark1> untersucht zwei unterschiedliche Arten von Pr&#252;fungsfragetypen und deren Einfluss auf das Lernen mit Virtuellen Patienten. Nachdem Studierende (N&#61;377) das P&#228;diatrie-Modul sowie die entsprechende Pr&#252;fung abgelegt hatten (N&#61;11), diskutierten sie in Fokusgruppen (n&#61;8) die Wahrnehmung und den Einfluss von sog. Key-Feature Problemen mit Long Menu-Fragen (KFP) und kontextreiche Einfachauswahl-Fragen (crSBA). Die Studie vergleicht zudem die psychometrischen Merkmale der beiden Fragen-Formate <TextLink reference="12"></TextLink>.</Pgraph></TextBlock>
    <TextBlock language="en" linked="yes" name="Results">
      <MainHeadline>Results</MainHeadline><SubHeadline2>Study 1</SubHeadline2><Pgraph>Five student focus groups revealed 10 principles of VP design. To facilitate learning, Virtual Patients should be </Pgraph><Pgraph><OrderedList><ListItem level="1" levelPosition="1" numString="1.">relevant, </ListItem><ListItem level="1" levelPosition="2" numString="2.">encompass an appropriate level of difficulty, </ListItem><ListItem level="1" levelPosition="3" numString="3.">be interactive, </ListItem><ListItem level="1" levelPosition="4" numString="4.">provide specific feedback, </ListItem><ListItem level="1" levelPosition="5" numString="5.">utilize different, appropriate media, </ListItem><ListItem level="1" levelPosition="6" numString="6.">direct students&#8217; focus to relevant learning points, </ListItem><ListItem level="1" levelPosition="7" numString="7.">foster the recapitulation of key learning points, </ListItem><ListItem level="1" levelPosition="8" numString="8.">be authentic regarding the web-based interface and </ListItem><ListItem level="1" levelPosition="9" numString="9.">tasks, and encompass </ListItem><ListItem level="1" levelPosition="10" numString="10.">questions and explanations that enhance clinical reasoning. </ListItem></OrderedList></Pgraph><Pgraph>After exposure to &#8211; from the student perspective &#8211; well-designed VPs, students felt very well prepared for reasoning in real patients, and better prepared than with any other previously experienced method. Students perceived the identified design principles as conducive to their learning. </Pgraph><SubHeadline2>Study 2</SubHeadline2><Pgraph>We synthesised 19 factors concerning four categories identified as relevant to VP design: general (title, description, language, identifier, provenance, typical study time); educational (educational level, educational modes, coverage, objectives); instructional design (path type, user modality, media use, narrative use, interactivity use, feedback use); technical (originating system, format, integration and dependence). </Pgraph><SubHeadline2>Study 3</SubHeadline2><Pgraph>The short VP design questionnaire comprises one global score and six questions distributed between three factors: authenticity of patient encounter and consultation, cognitive strategies in the consultation, coaching during consultation. Content analysis was reasonably supported by the theoretical foundation and the Virtual Patient experts (n&#61;9) from the eVIP project &#91;<Hyperlink href="https:&#47;&#47;virtualpatients.eu&#47;">https:&#47;&#47;virtualpatients.eu&#47;</Hyperlink>&#93;. The think-aloud studies and the analysis of free text comments supported the questionnaire&#8217;s validity. The exploratory factor analysis, encompassing 2547 student evaluations of 78 Virtual Patients from three countries yielded a three-factor model showing a reasonable fit with the data. To reliably evaluate a Virtual Patient on all three factors, a minimum of 200 student responses are required. </Pgraph><SubHeadline2>Study 4</SubHeadline2><Pgraph>The analysis of eight focus group interviews revealed six themes which were deemed by students to be important for the optimal implementation of VPs: </Pgraph><Pgraph><OrderedList><ListItem level="1" levelPosition="1" numString="1.">continuous and stable online access, </ListItem><ListItem level="1" levelPosition="2" numString="2.">increasing complexity, adapted to students&#8217; knowledge, </ListItem><ListItem level="1" levelPosition="3" numString="3.">VP-related workload offset by elimination of other activities, </ListItem><ListItem level="1" levelPosition="4" numString="4.">optimal sequencing (e.g.: lecture &#8211; 1 to 2 VP(s) &#8211; tutor-led small group discussion &#8211; real patient), </ListItem><ListItem level="1" levelPosition="5" numString="5.">optimal alignment of Virtual Patients and educational activities, and </ListItem><ListItem level="1" levelPosition="6" numString="6.">inclusion of VP topics in assessment. </ListItem></OrderedList></Pgraph><SubHeadline2>Study 5</SubHeadline2><Pgraph>The analysis of 8 focus groups revealed four themes: Compared to the context-rich Single Best Answer format, Key-Feature Problems with Long Menu were seen as </Pgraph><Pgraph><OrderedList><ListItem level="1" levelPosition="1" numString="1.">more realistic, </ListItem><ListItem level="1" levelPosition="2" numString="2.">more difficult and </ListItem><ListItem level="1" levelPosition="3" numString="3.">more motivating for the intense study of clinical reasoning with Virtual Patients. </ListItem></OrderedList></Pgraph><Pgraph>Moreover, overall, they </Pgraph><Pgraph><OrderedList><ListItem level="1" levelPosition="4" numString="4.">showed good acceptance when taking into account some preconditions like offering an additional free-text comment field in case students did not find a suitable answer in the long menu.</ListItem></OrderedList></Pgraph><Pgraph>According to the statistical analysis, there was no difference in difficulty; however, a higher reliability (G coefficient) was found for Key-Feature Problems with Long Menu, even when corrected for testing time (reliability per testing time 1 hour: KFP  0,84 vs crSBA 0,79). The Key-Feature Problems showed higher correlations with the OSCE results (OSCE-KFP: 0,54; OSCE-crSBA: 0,41). For the study of clinical reasoning with Virtual Patients, students perceived the Key-Feature Problems as more motivating. The inclusion of Key-Feature Problems with Long Menu into summative clerkship exams seems to offer positive educational effects and no psychometric drawbacks.</Pgraph></TextBlock>
    <TextBlock language="de" linked="yes" name="Ergebnisse">
      <MainHeadline>Ergebnisse</MainHeadline><SubHeadline2>Studie 1</SubHeadline2><Pgraph>F&#252;nf studentische Fokusgruppen zeigten 10 Prinzipien des VP-Designs auf. Um das Lernen zu erleichtern, sollten Virtuelle Patienten </Pgraph><Pgraph><OrderedList><ListItem level="1" levelPosition="1" numString="1.">relevant sein, </ListItem><ListItem level="1" levelPosition="2" numString="2.">ein angemessenes Schwierigkeitsniveau aufweisen, </ListItem><ListItem level="1" levelPosition="3" numString="3.">interaktiv sein, </ListItem><ListItem level="1" levelPosition="4" numString="4.">spezifisches Feedback bieten, </ListItem><ListItem level="1" levelPosition="5" numString="5.">unterschiedliche geeignete Medien nutzen, </ListItem><ListItem level="1" levelPosition="6" numString="6.">den Fokus auf relevante Lernpunkte lenken, </ListItem><ListItem level="1" levelPosition="7" numString="7.">das Rekapitulieren wesentlicher Lernpunkte f&#246;rdern, </ListItem><ListItem level="1" levelPosition="8" numString="8.">hinsichtlich der webbasierten Oberfl&#228;che und </ListItem><ListItem level="1" levelPosition="9" numString="9.">Aufgaben authentisch sein, und </ListItem><ListItem level="1" levelPosition="10" numString="10.">Fragen und Erl&#228;uterungen umfassen, die das Erlernen des klinischen Denkens unterst&#252;tzen. </ListItem></OrderedList></Pgraph><Pgraph>Nachdem die Studierenden mit &#8211; aus studentischer Sicht &#8211; gut entworfenen VP lernten, f&#252;hlten sie sich gut vorbereitet auf echte Patienten, und deutlich besser vorbereitet, als nach fr&#252;heren Erfahrungen mit anderen Methoden. Die Studierenden empfanden die identifizierten Designprinzipien als hilfreich f&#252;r ihr Lernen. </Pgraph><SubHeadline2>Studie 2</SubHeadline2><Pgraph>Wir erfassten 19 Faktoren gruppiert in vier Kategorien, die als relevant f&#252;r das VP-Design identifiziert wurden: allgemein (Titel, Beschreibung, Sprache, Identifikator, Herkunft, typische Lernzeit); p&#228;dagogisch-didaktisch (didaktisches Level, didaktische Modi, Abdeckung, Ziele); didaktisches Design (&#8222;learning path&#8220;, Nutzermodalit&#228;t, Nutzung von Medien, Nutzung der Sprache, Interaktivit&#228;t, Feedback); technisch (Ursprungssystem, Format, Integration und Abh&#228;ngigkeit(en)). </Pgraph><SubHeadline2>Studie 3</SubHeadline2><Pgraph>Der kurze VP-Designfragebogen umfasst einen globalen Score und sechs Fragen, verteilt auf drei Faktoren: Authentizit&#228;t der Begegnung und des Arztgespr&#228;chs mit dem Patienten, kognitive Strategien w&#228;hrend des Arztgespr&#228;chs, Coaching w&#228;hrend des Arztgespr&#228;chs. Die Inhaltsanalyse wurde durch die theoretischen Grundlagen des Instruments und die VP-Experten (n&#61;9) des eVIP-Projekts &#91;<Hyperlink href="https:&#47;&#47;virtualpatients.eu&#47;">https:&#47;&#47;virtualpatients.eu&#47;</Hyperlink>&#93; angemessen unterst&#252;tzt. Die &#8222;think aloud&#8220;-Studien und die Analyse freier Textkommentare st&#252;tzten die Validit&#228;t des Fragebogens. Die exploratorische Faktorenanalyse, die 2.547 studentische Evaluationen von 78 Virtuellen Patienten aus drei L&#228;ndern umfasste, ergab ein Drei-Faktoren-Modell, das gut mit den Daten &#252;bereinstimmte. Um einen Virtuellen Patienten zuverl&#228;ssig zu allen drei Faktoren evaluieren zu k&#246;nnen, sind Antworten von mindestens 200 Studierenden erforderlich. </Pgraph><SubHeadline2>Studie 4</SubHeadline2><Pgraph>Die Analyse von acht Fokusgruppen-Interviews ergab sechs Themenbereiche, die seitens der Studierenden als wichtig f&#252;r die optimale curriculare Einbindung VP angesehen wurden: </Pgraph><Pgraph><OrderedList><ListItem level="1" levelPosition="1" numString="1.">kontinuierlicher und stabiler Online-Zugang, </ListItem><ListItem level="1" levelPosition="2" numString="2.">zunehmende Komplexit&#228;t der VP, die dem Wissen der Studierenden angepasst ist, </ListItem><ListItem level="1" levelPosition="3" numString="3.">VP-bezogene Arbeitsbelastung wird ausgeglichen durch Eliminierung anderer curricularer Aktivit&#228;ten, </ListItem><ListItem level="1" levelPosition="4" numString="4.">optimale Reihenfolge (z. B.: Vorlesung &#8211; 1 bis 2 VP &#8211; Tutor-moderierte Kleingruppen-Diskussion &#8211; echter Patient), </ListItem><ListItem level="1" levelPosition="5" numString="5.">optimale Abstimmung von Virtuellen Patienten und anderen curricularen Aktivit&#228;ten, und </ListItem><ListItem level="1" levelPosition="6" numString="6.">Einbezug von VP-Themen in die Pr&#252;fung. </ListItem></OrderedList></Pgraph><SubHeadline2>Studie 5</SubHeadline2><Pgraph>Die Analyse von 8 Fokusgruppen ergab vier Themenbereiche: im Vergleich mit den kontextreichen Einfachauswahl-Fragen, wurden die Key-Feature Probleme mit Long Menu als </Pgraph><Pgraph><OrderedList><ListItem level="1" levelPosition="1" numString="1.">realistischer, </ListItem><ListItem level="1" levelPosition="2" numString="2.">schwieriger und </ListItem><ListItem level="1" levelPosition="3" numString="3.">motivierender f&#252;r das intensive Studium klinischen Denkens mit Virtuellen Patienten eingesch&#228;tzt. </ListItem></OrderedList></Pgraph><Pgraph>Au&#223;erdem zeigten sie insgesamt </Pgraph><Pgraph><OrderedList><ListItem level="1" levelPosition="4" numString="4.">eine gute Akzeptanz unter Ber&#252;cksichtigung einiger Voraussetzungen, wie Anbieten eines zus&#228;tzlichen Freitext-Kommentarfeldes, f&#252;r den Fall, dass die Studierenden im Long Menu keine geeigneten Antworten fanden. </ListItem></OrderedList></Pgraph><Pgraph>Gem&#228;&#223; statistischer Analyse gab es keinen Unterschied bei der Schwierigkeit. Jedoch wurde eine gr&#246;&#223;ere Zuverl&#228;ssigkeit (G-Koeffizient) f&#252;r Key-Feature Probleme mit Long Menu festgestellt, selbst wenn nach Testzeit korrigiert wurde (Zuverl&#228;ssigkeit pro Testzeit 1 Stunde: KFP  0,84 vs crSBA 0,79). Die Key-Feature Probleme zeigten eine h&#246;here Korrelation mit OSCE-Ergebnissen (OSCE-KFP: 0,54; OSCE-crSBA: 0,41). Beim Studium klinischen Denkens mit Virtuellen Patienten empfanden die Studenten die Key-Feature Probleme als motivierender. Die Verwendung von Key-Feature Problemen mit Long Menu in den abschlie&#223;enden Modulpr&#252;fungen scheint positive p&#228;dagogische Wirkungen zu haben ohne psychometrische Nachteile.</Pgraph></TextBlock>
    <TextBlock language="en" linked="yes" name="Summary and Discussion">
      <MainHeadline>Summary and Discussion</MainHeadline><Pgraph><Mark1>Studies 1-3</Mark1> suggest that the following three main aspects are particularly relevant for optimising VP design to foster learning of clinical reasoning: </Pgraph><Pgraph><OrderedList><ListItem level="1" levelPosition="1" numString="1.">use of instructional design criteria, i.e. ensuring appropriate difficulty, authenticity, interactivity, feedback and focus on relevant learning points, </ListItem><ListItem level="1" levelPosition="2" numString="2.">implementation of virtual coaching on clinical reasoning into the VP, i.e. asking for discriminating and confirming features, and </ListItem><ListItem level="1" levelPosition="3" numString="3.">provision of validated instruments to enable systematic further improvements, such as the developed VP typology and VP design questionnaire. </ListItem></OrderedList></Pgraph><Pgraph>The empirically derived VP typology provides a common reference point for studies or reports on Virtual Patients. The VP design questionnaire has the potential to provide valid information about Virtual Patient design, contingent on a large number of responses per VP.</Pgraph><Pgraph><Mark1>Studies 4-5 </Mark1>suggest the following three main aspects as being especially relevant for VP implementation: </Pgraph><Pgraph><OrderedList><ListItem level="1" levelPosition="4" numString="4.">sequencing VPs and other educational activities, including bedside teaching with real patients, according to complexity, and </ListItem><ListItem level="1" levelPosition="5" numString="5.">aligning instruction and </ListItem><ListItem level="1" levelPosition="6" numString="6.">assessment with the use of VPs. </ListItem></OrderedList></Pgraph><Pgraph>Our findings are in accordance with current theories and insights outside of VP research e.g. on instructional design <TextLink reference="6"></TextLink>, on how to foster learning of clinical reasoning <TextLink reference="1"></TextLink>, and on instructional design theories regarding curriculum development <TextLink reference="13"></TextLink>. </Pgraph><Pgraph>The main implications of our research for educational practice are as follows: To optimally foster clinical reasoning, Virtual Patients should be well designed, systematically improved through validated instruments, and well implemented.</Pgraph><Pgraph>The major strengths of this dissertation include the authentic study settings, the involvement of different stakeholders in the studies, and the combination of different research methodologies. </Pgraph><Pgraph>Limitations of this dissertation are that three studies were done at only one centre, that it did not include a study on the longitudinal implementation of VPs, or one on the transfer of learning to real patients using objective measures. Further research is necessary to deepen the understanding of Virtual Patient design and implementation from a multicentre perspective and in different contexts. Further, the efficacy and effectiveness of VP should be investigated more in depth. This should include longitudinal studies and measurements of the impact on patient outcomes.</Pgraph></TextBlock>
    <TextBlock language="de" linked="yes" name="Zusammenfassung und Diskussion">
      <MainHeadline>Zusammenfassung und Diskussion</MainHeadline><Pgraph><Mark1>Studien 1-3</Mark1> legen nahe, dass die folgenden drei Hauptaspekte von besonderer Relevanz f&#252;r die Optimierung der VP-Gestaltung zur F&#246;rderung des Erlernens klinischen Denkens sind: </Pgraph><Pgraph><OrderedList><ListItem level="1" levelPosition="1" numString="1.">Verwendung didaktischer Designkriterien, d. h. Gew&#228;hrleistung angemessener Schwierigkeit, Authentizit&#228;t, Interaktivit&#228;t, Feedback und Fokussierung auf relevante Lernpunkte, </ListItem><ListItem level="1" levelPosition="2" numString="2.">Integration von virtuellem Coaching bzgl. klinischem Denken in die VP, d. h. Fragen nach unterscheidenden und best&#228;tigenden Merkmalen, und </ListItem><ListItem level="1" levelPosition="3" numString="3.">Bereitstellung validierter Instrumente, um systematisch weitere Verbesserungen zu erm&#246;glichen, wie z. B. die entwickelte VP-Typologie und der VP-Designfragebogen. </ListItem></OrderedList></Pgraph><Pgraph>Die empirisch erstellte VP-Typologie bietet einen gemeinsamen Referenzpunkt f&#252;r Studien oder Berichte zu Virtuellen Patienten. Der VP-Designfragebogen besitzt das Potenzial, valide Informationen zur Gestaltung Virtueller Patienten zur Verf&#252;gung zu stellen, in Abh&#228;ngigkeit von einer gro&#223;en Anzahl von Fragebogen-Antworten pro VP.</Pgraph><Pgraph><Mark1>Studien 4-5</Mark1> legen nahe, dass die folgenden drei Hauptaspekte von besonderer Relevanz f&#252;r die Optimierung der curricularen Einbindung VP sind: </Pgraph><Pgraph><OrderedList><ListItem level="1" levelPosition="4" numString="4.">Sequenzierung von VP und sonstigen curricularen Veranstaltungen, einschlie&#223;lich Lehre am Krankenbett mit echten Patienten, gem&#228;&#223; Komplexit&#228;t, und </ListItem><ListItem level="1" levelPosition="5" numString="5.">didaktische und inhaltliche Abstimmung von Lernen und </ListItem><ListItem level="1" levelPosition="6" numString="6.">Pr&#252;fen bei der Nutzung von VP. </ListItem></OrderedList></Pgraph><Pgraph>Unsere Ergebnisse sind in Einklang mit aktuellen Theorien und Erkenntnissen au&#223;erhalb der VP-Forschung, z. B. zum didaktischen Design <TextLink reference="6"></TextLink>, dazu, wie das Erlernen klinischen Denkens gef&#246;rdert werden kann <TextLink reference="1"></TextLink>, und zu Theorien bzgl. didaktischem Design im Hinblick auf die Entwicklung eines Curriculums <TextLink reference="13"></TextLink>. </Pgraph><Pgraph>Die wesentlichen Implikationen unserer Forschung f&#252;r die medizinische Lehre sind folgende: Um eine optimale F&#246;rderung klinischen Denkens zu erreichen, sollten Virtuelle Patienten gut gestaltet sein, systematisch durch validierte Instrumente verbessert werden und gut curricular eingebunden sein.</Pgraph><Pgraph>Die wichtigsten St&#228;rken dieser Dissertation umfassen die authentischen Studiensettings, der Einbezug unterschiedlicher Interessengruppen in die Studien und die Kombination verschiedener Forschungsmethoden. </Pgraph><Pgraph>Einschr&#228;nkungen dieser Dissertation sind, dass drei Studien in nur einem Zentrum durchgef&#252;hrt wurden und dass sie keine Studie zur langfristigen Umsetzung von VP oder zum Transfer des Lernens auf echte Patienten unter Verwendung objektiver Messungen umfasst. Weitere Studien sind n&#246;tig, um das Verst&#228;ndnis der Gestaltung und curricularen Einbindung Virtueller Patienten aus einer &#8222;multizentrischen&#8220; Perspektive und in verschiedenen Kontexten zu vertiefen. Weiterhin sollten die Wirksamkeit und Effektivit&#228;t von VP vertieft untersucht werden. Diese Untersuchungen sollten Langzeitstudien und Messungen des Einflusses auf die Patienten-Behandlung umfassen.</Pgraph></TextBlock>
    <TextBlock language="en" linked="yes" name="A piece of advice">
      <MainHeadline>A piece of advice</MainHeadline><Pgraph>Ensure that you have blocked off sufficient time for your PhD work, choose your topic and supervisors wisely, and enjoy this time.</Pgraph></TextBlock>
    <TextBlock language="de" linked="yes" name="Ratschlag">
      <MainHeadline>Ratschlag</MainHeadline><Pgraph>Stellen Sie sicher, dass Sie sich ausreichend Zeit f&#252;r Ihre Promotion freihalten; w&#228;hlen Sie Ihr Thema und Ihre Betreuer klug aus und genie&#223;en Sie diese Zeit.</Pgraph></TextBlock>
    <TextBlock language="en" linked="yes" name="Biographical note">
      <MainHeadline>Biographical note</MainHeadline><Pgraph>S&#246;ren Huwendiek graduated from medical school at Heidelberg University in Germany, where he also worked for 10 years as a physician (finally paediatrician and paediatric rheumatologist) and as a medical educator. He gained a Masters of Medical Education degree from Bern University and this PhD in Health professions education from Maastricht University. Since 2012, he has been Head of the Department of Assessment and Evaluation of the Institute of Medical Education (IML) in Switzerland. In 2018, he was promoted to Associate Professor for Medical Education.</Pgraph><Pgraph>The defense took place at the University of Maastricht on 25 November 2016.</Pgraph><Pgraph>Supervisors: Prof. Dr. D.H.J.M Dolmans (University of Maastricht) and Prof. Dr. C.P.M. van der Vleuten (University of Maastricht). Co-supervisor: Dr. B. de Leng (University of M&#252;nster).</Pgraph></TextBlock>
    <TextBlock language="de" linked="yes" name="Biographischer Hinweis">
      <MainHeadline>Biographischer Hinweis</MainHeadline><Pgraph>S&#246;ren Huwendiek machte seinen Studienabschluss an der Universit&#228;t Heidelberg in Deutschland, wo er auch 10 Jahre als Arzt (zuletzt als P&#228;diater und p&#228;diatrischer Rheumatologe) und als &#8222;Medical Educator&#8220; arbeitete. Er besitzt einen Master of Medical Education der Universit&#228;t Bern und diesen PhD in Medical Education der Universit&#228;t Maastricht. Seit 2012 ist er Abteilungsleiter Assessment und Evaluation des Instituts f&#252;r Medizinische Lehre (IML) in der Schweiz. Im Jahre 2018 wurde er zum Assoziierten Professor f&#252;r Medizinische Lehre bef&#246;rdert.</Pgraph><Pgraph>Die Verteidigung fand am 25. November 2016 an der Universit&#228;t Maastricht statt.</Pgraph><Pgraph>Betreuer: Prof. Dr. D.H.J.M Dolmans (Universit&#228;t Maastricht) und Prof. Dr. C.P.M. van der Vleuten (Universit&#228;t Maastricht). Weiterer Betreuer: Dr. B. de Leng (Universit&#228;t M&#252;nster).</Pgraph></TextBlock>
    <TextBlock language="en" linked="yes" name="Acknowledgement">
      <MainHeadline>Acknowledgement</MainHeadline><Pgraph>My sincere gratitude goes to my great supervisors Diana Dolmans, Cees van der Vleuten and Bas de Leng from Maastricht University resp. M&#252;nster University and Burkhard T&#246;nshoff and Georg F. Hoffmann from Heidelberg University. I also thank the many other people who contributed to and supported me in this PhD.</Pgraph></TextBlock>
    <TextBlock language="de" linked="yes" name="Danksagung">
      <MainHeadline>Danksagung</MainHeadline><Pgraph>Mein aufrichtiger Dank gilt meinen gro&#223;artigen Betreuern Diana Dolmans, Cees van der Vleuten und Bas de Leng von der Universit&#228;t Maastricht respektive Universit&#228;t M&#252;nster sowie Burkhard T&#246;nshoff und Georg F. Hoffmann von der Universit&#228;t Heidelberg. Ich bedanke mich auch bei den vielen anderen, die zu dieser Dissertation beigetragen und mich dabei unterst&#252;tzt haben.</Pgraph></TextBlock>
    <TextBlock language="en" linked="yes" name="Competing interests">
      <MainHeadline>Competing interests</MainHeadline><Pgraph>The author declares that he has no competing interests.</Pgraph></TextBlock>
    <TextBlock language="de" linked="yes" name="Interessenkonflikt">
      <MainHeadline>Interessenkonflikt</MainHeadline><Pgraph>Der Autor erkl&#228;rt, dass er keine Interessenkonflikte im Zusammenhang mit diesem Artikel hat.</Pgraph></TextBlock>
    <References linked="yes">
      <Reference refNo="1">
        <RefAuthor>Bowen JL</RefAuthor>
        <RefTitle>Educational strategies to promote clinical diagnostic reasoning</RefTitle>
        <RefYear>2006</RefYear>
        <RefJournal>N Engl J Med</RefJournal>
        <RefPage>2217-2225</RefPage>
        <RefTotal>Bowen JL. Educational strategies to promote clinical diagnostic reasoning. N Engl J Med. 2006;355(21):2217-2225. DOI: 10.1056&#47;NEJMra054782</RefTotal>
        <RefLink>http:&#47;&#47;dx.doi.org&#47;10.1056&#47;NEJMra054782</RefLink>
      </Reference>
      <Reference refNo="2">
        <RefAuthor>Cook DA</RefAuthor>
        <RefAuthor>Erwin PJ</RefAuthor>
        <RefAuthor>Triola MM</RefAuthor>
        <RefTitle>Computerized virtual patients in health professions education: a systematic review and meta-analysis</RefTitle>
        <RefYear>2010</RefYear>
        <RefJournal>Acad Med</RefJournal>
        <RefPage>1589-602</RefPage>
        <RefTotal>Cook DA, Erwin PJ, Triola MM. Computerized virtual patients in health professions education: a systematic review and meta-analysis. Acad Med. 2010;85(10):1589-602. DOI: 10.1097&#47;ACM.0b013e3181edfe13</RefTotal>
        <RefLink>http:&#47;&#47;dx.doi.org&#47;10.1097&#47;ACM.0b013e3181edfe13</RefLink>
      </Reference>
      <Reference refNo="3">
        <RefAuthor>Croskerry P</RefAuthor>
        <RefTitle>A universal model of diagnostic reasoning</RefTitle>
        <RefYear>2009</RefYear>
        <RefJournal>Acad Med</RefJournal>
        <RefPage>1022-1028</RefPage>
        <RefTotal>Croskerry P. A universal model of diagnostic reasoning. Acad Med. 2009;84(8):1022-1028. DOI: 10.1097&#47;ACM.0b013e3181ace703</RefTotal>
        <RefLink>http:&#47;&#47;dx.doi.org&#47;10.1097&#47;ACM.0b013e3181ace703</RefLink>
      </Reference>
      <Reference refNo="4">
        <RefAuthor>Durning S</RefAuthor>
        <RefAuthor>Artino AR Jr</RefAuthor>
        <RefAuthor>Pangaro L</RefAuthor>
        <RefAuthor>van der Vleuten CP</RefAuthor>
        <RefAuthor>Schuwirth L</RefAuthor>
        <RefTitle>Context and clinical reasoning: understanding the perspective of the expert&#39;s voice</RefTitle>
        <RefYear>2011</RefYear>
        <RefJournal>Med Educ</RefJournal>
        <RefPage>927-938</RefPage>
        <RefTotal>Durning S, Artino AR Jr, Pangaro L, van der Vleuten CP, Schuwirth L. Context and clinical reasoning: understanding the perspective of the expert&#39;s voice. Med Educ. 2011;45(9):927-938. DOI: 10.1111&#47;j.1365-2923.2011.04053.x</RefTotal>
        <RefLink>http:&#47;&#47;dx.doi.org&#47;10.1111&#47;j.1365-2923.2011.04053.x</RefLink>
      </Reference>
      <Reference refNo="5">
        <RefAuthor>Ellaway R</RefAuthor>
        <RefAuthor>Poulton T</RefAuthor>
        <RefAuthor>Fors U</RefAuthor>
        <RefAuthor>McGee JB</RefAuthor>
        <RefAuthor>Albright S</RefAuthor>
        <RefTitle>Building a virtual patient commons</RefTitle>
        <RefYear>2008</RefYear>
        <RefJournal>Med Teac</RefJournal>
        <RefPage>170-174</RefPage>
        <RefTotal>Ellaway R, Poulton T, Fors U, McGee JB, Albright S. Building a virtual patient commons. Med Teac. 2008;30(2):170-174. DOI: 10.1080&#47;01421590701874074</RefTotal>
        <RefLink>http:&#47;&#47;dx.doi.org&#47;10.1080&#47;01421590701874074</RefLink>
      </Reference>
      <Reference refNo="6">
        <RefAuthor>Grunwald T</RefAuthor>
        <RefAuthor>Corsbie-Massay C</RefAuthor>
        <RefTitle>Guidelines for cognitively efficient multimedia learning tools: educational strategies, cognitive load, and interface design</RefTitle>
        <RefYear>2006</RefYear>
        <RefJournal>Acad Med</RefJournal>
        <RefPage>213-223</RefPage>
        <RefTotal>Grunwald T, Corsbie-Massay C. Guidelines for cognitively efficient multimedia learning tools: educational strategies, cognitive load, and interface design. Acad Med. 2006;81(3):213-223. DOI: 10.1097&#47;00001888-200603000-00003</RefTotal>
        <RefLink>http:&#47;&#47;dx.doi.org&#47;10.1097&#47;00001888-200603000-00003</RefLink>
      </Reference>
      <Reference refNo="7">
        <RefAuthor>Huang G</RefAuthor>
        <RefAuthor>Reynolds R</RefAuthor>
        <RefAuthor>Candler C</RefAuthor>
        <RefTitle>Virtual patient simulation at US and Canadian medical schools</RefTitle>
        <RefYear>2007</RefYear>
        <RefJournal>Acad Med</RefJournal>
        <RefPage>446-451</RefPage>
        <RefTotal>Huang G, Reynolds R, Candler C. Virtual patient simulation at US and Canadian medical schools. Acad Med. 2007;82(5):446-451. DOI: 10.1097&#47;ACM.0b013e31803e8a0a</RefTotal>
        <RefLink>http:&#47;&#47;dx.doi.org&#47;10.1097&#47;ACM.0b013e31803e8a0a</RefLink>
      </Reference>
      <Reference refNo="11">
        <RefAuthor>Huwendiek S</RefAuthor>
        <RefAuthor>Reichert F</RefAuthor>
        <RefAuthor>Bosse HM</RefAuthor>
        <RefAuthor>de Leng BA</RefAuthor>
        <RefAuthor>van der Vleuten CP</RefAuthor>
        <RefAuthor>Haag M</RefAuthor>
        <RefAuthor>Hoffmann GF</RefAuthor>
        <RefAuthor>T&#246;nshoff B</RefAuthor>
        <RefTitle>Design principles for virtual patients: a focus group study among students</RefTitle>
        <RefYear>2009</RefYear>
        <RefJournal>Med Educ</RefJournal>
        <RefPage>580-588</RefPage>
        <RefTotal>Huwendiek S, Reichert F, Bosse HM, de Leng BA, van der Vleuten CP, Haag M, Hoffmann GF, T&#246;nshoff B. Design principles for virtual patients: a focus group study among students. Med Educ. 2009;43(6):580-588. DOI: 10.1111&#47;j.1365-2923.2009.03369.x</RefTotal>
        <RefLink>http:&#47;&#47;dx.doi.org&#47;10.1111&#47;j.1365-2923.2009.03369.x</RefLink>
      </Reference>
      <Reference refNo="9">
        <RefAuthor>Huwendiek S</RefAuthor>
        <RefAuthor>deLeng B</RefAuthor>
        <RefAuthor>Zary N</RefAuthor>
        <RefAuthor>Fischer MR</RefAuthor>
        <RefAuthor>Ruiz JG</RefAuthor>
        <RefAuthor>Ellaway R</RefAuthor>
        <RefTitle>Towards a Typology of Virtual Patients</RefTitle>
        <RefYear>2009</RefYear>
        <RefJournal>Med Teach</RefJournal>
        <RefPage>743-748</RefPage>
        <RefTotal>Huwendiek S, deLeng B, Zary N, Fischer MR, Ruiz JG, Ellaway R. Towards a Typology of Virtual Patients. Med Teach. 2009;31(8):743-748. DOI: 10.1080&#47;01421590903124708</RefTotal>
        <RefLink>http:&#47;&#47;dx.doi.org&#47;10.1080&#47;01421590903124708</RefLink>
      </Reference>
      <Reference refNo="10">
        <RefAuthor>Huwendiek S</RefAuthor>
        <RefAuthor>Duncker C</RefAuthor>
        <RefAuthor>Reichert F</RefAuthor>
        <RefAuthor>de Leng BA</RefAuthor>
        <RefAuthor>Dolmans D</RefAuthor>
        <RefAuthor>van der Vleuten CP</RefAuthor>
        <RefAuthor>Haag M</RefAuthor>
        <RefAuthor>Hoffmann GF</RefAuthor>
        <RefAuthor>T&#246;nshoff B</RefAuthor>
        <RefTitle>Learner preferences regarding integrating, sequencing and aligning virtual patients with other activities in the undergraduate medical curriculum: a focus group study</RefTitle>
        <RefYear>2013</RefYear>
        <RefJournal>Med Teach</RefJournal>
        <RefPage>920-929</RefPage>
        <RefTotal>Huwendiek S, Duncker C, Reichert F, de Leng BA, Dolmans D, van der Vleuten CP, Haag M, Hoffmann GF, T&#246;nshoff B. Learner preferences regarding integrating, sequencing and aligning virtual patients with other activities in the undergraduate medical curriculum: a focus group study. Med Teach. 2013;35(11):920-929. DOI: 10.3109&#47;0142159X.2013.826790</RefTotal>
        <RefLink>http:&#47;&#47;dx.doi.org&#47;10.3109&#47;0142159X.2013.826790</RefLink>
      </Reference>
      <Reference refNo="8">
        <RefAuthor>Huwendiek S</RefAuthor>
        <RefAuthor>De Leng BA</RefAuthor>
        <RefAuthor>Kononowicz AA</RefAuthor>
        <RefAuthor>Kunzmann R</RefAuthor>
        <RefAuthor>Muijtjens AM</RefAuthor>
        <RefAuthor>Van Der Vleuten CP</RefAuthor>
        <RefAuthor>Hoffmann GF</RefAuthor>
        <RefAuthor>T&#246;nshoff B</RefAuthor>
        <RefAuthor>Dolmans DH</RefAuthor>
        <RefTitle>Exploring the validity and reliability of a questionnaire for evaluating virtual patient design with a special emphasis on fostering clinical reasoning</RefTitle>
        <RefYear>2015</RefYear>
        <RefJournal>Med Teach</RefJournal>
        <RefPage>775-782</RefPage>
        <RefTotal>Huwendiek S, De Leng BA, Kononowicz AA, Kunzmann R, Muijtjens AM, Van Der Vleuten CP, Hoffmann GF, T&#246;nshoff B, Dolmans DH. Exploring the validity and reliability of a questionnaire for evaluating virtual patient design with a special emphasis on fostering clinical reasoning. Med Teach. 2015;37(8):775-782. DOI: 10.3109&#47;0142159X.2014.970622</RefTotal>
        <RefLink>http:&#47;&#47;dx.doi.org&#47;10.3109&#47;0142159X.2014.970622</RefLink>
      </Reference>
      <Reference refNo="12">
        <RefAuthor>Huwendiek S</RefAuthor>
        <RefAuthor>Reichert F</RefAuthor>
        <RefAuthor>Duncker C</RefAuthor>
        <RefAuthor>de Leng BA</RefAuthor>
        <RefAuthor>van der Vleuten CP</RefAuthor>
        <RefAuthor>Muijtjens AMM</RefAuthor>
        <RefAuthor>Bosse HM</RefAuthor>
        <RefAuthor>Haag M</RefAuthor>
        <RefAuthor>Hoffmann GF</RefAuthor>
        <RefAuthor>T&#246;nshoff B</RefAuthor>
        <RefAuthor>Dolmans D</RefAuthor>
        <RefTitle>Electronic Assessment of Clinical Reasoning in Clerkships: A Mixed-Methods Comparison of Long-menu Key-Feature Problems with Context-Rich Single Best Answer Questions</RefTitle>
        <RefYear>2017</RefYear>
        <RefJournal>Med Teach</RefJournal>
        <RefPage>476-485</RefPage>
        <RefTotal>Huwendiek S, Reichert F, Duncker C, de Leng BA, van der Vleuten CP, Muijtjens AMM, Bosse HM, Haag M, Hoffmann GF, T&#246;nshoff B, Dolmans D. Electronic Assessment of Clinical Reasoning in Clerkships: A Mixed-Methods Comparison of Long-menu Key-Feature Problems with Context-Rich Single Best Answer Questions. Med Teach. 2017;39(5):476-485. DOI: 10.1080&#47;0142159X.2017.1297525</RefTotal>
        <RefLink>http:&#47;&#47;dx.doi.org&#47;10.1080&#47;0142159X.2017.1297525</RefLink>
      </Reference>
      <Reference refNo="13">
        <RefAuthor>van Merrienboer JJ</RefAuthor>
        <RefAuthor>Sweller J</RefAuthor>
        <RefTitle>Cognitive load theory in health professional education: Design principles and strategies</RefTitle>
        <RefYear>2010</RefYear>
        <RefJournal>Med Educ</RefJournal>
        <RefPage>85-93</RefPage>
        <RefTotal>van Merrienboer JJ, Sweller J. Cognitive load theory in health professional education: Design principles and strategies. Med Educ. 2010;44(1):85-93. DOI: 10.1111&#47;j.1365-2923.2009.03498.x</RefTotal>
        <RefLink>http:&#47;&#47;dx.doi.org&#47;10.1111&#47;j.1365-2923.2009.03498.x</RefLink>
      </Reference>
    </References>
    <Media>
      <Tables>
        <NoOfTables>0</NoOfTables>
      </Tables>
      <Figures>
        <NoOfPictures>0</NoOfPictures>
      </Figures>
      <InlineFigures>
        <NoOfPictures>0</NoOfPictures>
      </InlineFigures>
      <Attachments>
        <NoOfAttachments>0</NoOfAttachments>
      </Attachments>
    </Media>
  </OrigData>
</GmsArticle>