<?xml version="1.0" encoding="iso-8859-1" standalone="no"?>
<!DOCTYPE GmsArticle SYSTEM "http://www.egms.de/dtd/2.0.34/GmsArticle.dtd">
<GmsArticle xmlns:xlink="http://www.w3.org/1999/xlink">
  <MetaData>
    <Identifier>zma001281</Identifier>
    <IdentifierDoi>10.3205/zma001281</IdentifierDoi>
    <IdentifierUrn>urn:nbn:de:0183-zma0012811</IdentifierUrn>
    <ArticleType language="en">article</ArticleType>
    <ArticleType language="de">Artikel</ArticleType>
    <TitleGroup>
      <Title language="en">Longitudinal curriculum development: gradual optimization of a biochemistry seminar</Title>
      <TitleTranslated language="de">Longitudinale Curriculumsentwicklung: Sukzessive Optimierung am Beispiel eines Biochemieseminars</TitleTranslated>
    </TitleGroup>
    <CreatorList>
      <Creator>
        <PersonNames>
          <Lastname>Schneider</Lastname>
          <LastnameHeading>Schneider</LastnameHeading>
          <Firstname>Achim</Firstname>
          <Initials>A</Initials>
        </PersonNames>
        <Address language="en">
          <Affiliation>Ulm University, Institute for Biochemistry and Molecular Biology, Ulm, Germany</Affiliation>
        </Address>
        <Address language="de">
          <Affiliation>Universit&#228;t Ulm, Institut f&#252;r Biochemie und Molekulare Biologie, Ulm, Deutschland</Affiliation>
        </Address>
        <Email>achim.schneider&#64;uni-ulm.de</Email>
        <Creatorrole corresponding="no" presenting="no">author</Creatorrole>
      </Creator>
      <Creator>
        <PersonNames>
          <Lastname>K&#252;hl</Lastname>
          <LastnameHeading>K&#252;hl</LastnameHeading>
          <Firstname>Michael</Firstname>
          <Initials>M</Initials>
        </PersonNames>
        <Address language="en">
          <Affiliation>Ulm University, Institute for Biochemistry and Molecular Biology, Ulm, Germany</Affiliation>
        </Address>
        <Address language="de">
          <Affiliation>Universit&#228;t Ulm, Institut f&#252;r Biochemie und Molekulare Biologie, Ulm, Deutschland</Affiliation>
        </Address>
        <Email>michael.kuehl&#64;uni-ulm.de</Email>
        <Creatorrole corresponding="no" presenting="no">author</Creatorrole>
      </Creator>
      <Creator>
        <PersonNames>
          <Lastname>K&#252;hl</Lastname>
          <LastnameHeading>K&#252;hl</LastnameHeading>
          <Firstname>Susanne J.</Firstname>
          <Initials>SJ</Initials>
        </PersonNames>
        <Address language="en">Ulm University, Institute for Biochemistry and Molecular Biology, Albert-Einstein-Allee 11, D-89081 Ulm, Germany<Affiliation>Ulm University, Institute for Biochemistry and Molecular Biology, Ulm, Germany</Affiliation></Address>
        <Address language="de">Universit&#228;t Ulm, Institut f&#252;r Biochemie und Molekulare Biologie, Albert-Einstein-Allee 11, 89081 Ulm, Deutschland<Affiliation>Universit&#228;t Ulm, Institut f&#252;r Biochemie und Molekulare Biologie, Ulm, Deutschland</Affiliation></Address>
        <Email>susanne.kuehl&#64;uni-ulm.de</Email>
        <Creatorrole corresponding="yes" presenting="no">author</Creatorrole>
      </Creator>
    </CreatorList>
    <PublisherList>
      <Publisher>
        <Corporation>
          <Corporatename>German Medical Science GMS Publishing House</Corporatename>
        </Corporation>
        <Address>D&#252;sseldorf</Address>
      </Publisher>
    </PublisherList>
    <SubjectGroup>
      <SubjectheadingDDB>610</SubjectheadingDDB>
      <Keyword language="en">curriculum development</Keyword>
      <Keyword language="en">course development</Keyword>
      <Keyword language="en">vertical integration</Keyword>
      <Keyword language="en">competence orientation</Keyword>
      <Keyword language="en">inverted classroom</Keyword>
      <Keyword language="en">flipped classroom</Keyword>
      <Keyword language="en">biochemistry</Keyword>
      <Keyword language="en">quality management</Keyword>
      <Keyword language="de">Curriculumsentwicklung</Keyword>
      <Keyword language="de">Lehrveranstaltungsentwicklung</Keyword>
      <Keyword language="de">vertikale Integration</Keyword>
      <Keyword language="de">Kompetenzorientierung</Keyword>
      <Keyword language="de">Inverted Classroom</Keyword>
      <Keyword language="de">Flipped Classroom</Keyword>
      <Keyword language="de">Biochemie</Keyword>
      <Keyword language="de">Qualit&#228;tsmanagement</Keyword>
      <SectionHeading language="en">Curriculum Development</SectionHeading>
      <SectionHeading language="de">Curriculumsentwicklung</SectionHeading>
    </SubjectGroup>
    <DateReceived>20190519</DateReceived>
    <DateRevised>20190819</DateRevised>
    <DateAccepted>20190909</DateAccepted>
    <DatePublishedList>
      
    <DatePublished>20191115</DatePublished></DatePublishedList>
    <Language>engl</Language>
    <LanguageTranslation>germ</LanguageTranslation>
    <License license-type="open-access" xlink:href="http://creativecommons.org/licenses/by/4.0/">
      <AltText language="en">This is an Open Access article distributed under the terms of the Creative Commons Attribution 4.0 License.</AltText>
      <AltText language="de">Dieser Artikel ist ein Open-Access-Artikel und steht unter den Lizenzbedingungen der Creative Commons Attribution 4.0 License (Namensnennung).</AltText>
    </License>
    <SourceGroup>
      <Journal>
        <ISSN>2366-5017</ISSN>
        <Volume>36</Volume>
        <Issue>6</Issue>
        <JournalTitle>GMS Journal for Medical Education</JournalTitle>
        <JournalTitleAbbr>GMS J Med Educ</JournalTitleAbbr>
      </Journal>
    </SourceGroup>
    <ArticleNo>73</ArticleNo>
  </MetaData>
  <OrigData>
    <Abstract language="de" linked="yes"><Pgraph><Mark1>Zielsetzung: </Mark1>Der Masterplan Medizinstudium 2020 r&#252;ckt curriculare Entwicklungsprozesse weiter in den Vordergrund. Aber auch institutsintern kann es Gr&#252;nde wie z.B. schlecht ausfallende Evaluationen geben, die eine Optimierung von Lehrveranstaltungen nahelegen. H&#228;ufig stehen jedoch f&#252;r umfassende Weiterentwicklungen nicht die notwendigen Ressourcen bereit. Mit der vorliegenden Studie wollen wir anhand eines Biochemie-Seminars des vorklinischen Studienabschnitts des Regelstudiengangs der Humanmedizin in Ulm exemplarisch zeigen, wie die Optimierung einer Lehrveranstaltung in kleinen Schritten gelingen kann und Evaluationsergebnisse zur Qualit&#228;tssicherung herangezogen werden k&#246;nnen.</Pgraph><Pgraph><Mark1>Methodik: </Mark1>In Anlehnung an einen kontinuierlichen Verbesserungsprozess (KVP) wurde ein Biochemie-Seminar &#252;ber f&#252;nf Jahre hinweg in drei Zyklen Schritt f&#252;r Schritt weiterentwickelt. Dabei wurden strukturelle, methodische und inhaltliche Komponenten, wie vertikale Integration, die Inverted Classroom-Methode und Kompetenzorientierung eingesetzt. Zur Qualit&#228;tssicherung wurden die offiziellen und standardisierten Evaluationsb&#246;gen von insgesamt N&#61;1248 Studierenden herangezogen. Anhand einzelner Evaluationsfragen, die in verschiedene Kategorien wie &#8222;Organisation, Struktur, Aufbau&#8220; oder &#8222;Didaktische Umsetzung&#8220; gegliedert sind, Freitextangaben sowie anhand von Ergebnissen einer parallel durchgef&#252;hrten Pilotstudie wird die Weiterentwicklung differenziert bewertet und die N&#252;tzlichkeit von Evaluationsergebnissen herausgearbeitet.</Pgraph><Pgraph><Mark1>Ergebnisse:</Mark1> Jeder Entwicklungsschritt f&#252;hrte auf Studierendenseite zu einer signifikant positiveren Gesamtbewertung des Seminars. Dieses Ergebnis ist unabh&#228;ngig davon, ob die Entwicklung auf struktureller oder methodisch-inhaltlicher Ebene stattfand. Dar&#252;ber hinaus finden sich signifikant bessere Bewertungen derjenigen Kategorien, die weiterentwickelt wurden. So geht beispielsweise die vertikale Integration sowie die Einf&#252;hrung der Inverted Classroom-Methode mit einer besseren Bewertung der &#8222;Didaktischen Umsetzung&#8220; einher und die strukturelle Ver&#228;nderung f&#252;hrte schlie&#223;lich zu einer Verbesserung der Kategorie &#8222;Organisation, Struktur, Aufbau&#8220;. Ein Abgleich mit den Freitexten der Evaluationsb&#246;gen sowie mit den Ergebnissen der Pilotstudie unterst&#252;tzt die Ergebnisse.</Pgraph><Pgraph><Mark1>Schlussfolgerung: </Mark1>Wenngleich die Weiterentwicklung eines Curriculums oder einer Lehrveranstaltung eine gro&#223;e Aufgabe ist, so kann diese auch erfolgreich in kleinen Schritten erfolgen. Auf diesem Weg ist es m&#246;glich, kontinuierlich neue Lernziele, wie z.B. im Masterplan Medizinstudium 2020 gefordert, zu integrieren, und die Zufriedenheit der Studierenden bez&#252;glich einer Lehrveranstaltung zu erh&#246;hen. Studentische Evaluationsergebnisse k&#246;nnen in diesem Prozess als eine Art der Qualit&#228;tssicherung genutzt werden und wichtige Impulse zur Weiterentwicklung geben.</Pgraph></Abstract>
    <Abstract language="en" linked="yes"><Pgraph><Mark1>Objective: </Mark1>The Master Plan for Medical Studies 2020 places additional emphasis on curricular development processes. In addition, institutes may recognize a need to optimize their courses, for example because of poor evaluations. Frequently, however, the resources required for comprehensive optimizations are not available. In the present study, we aimed to use the example of a biochemistry seminar that takes place in the preclinical part of the medical degree at Ulm University Medical School to show how a course can be successfully optimized in small steps and evaluation results can be used for quality assurance.</Pgraph><Pgraph><Mark1>Methods: </Mark1>Similar to a continuous improvement process (CIP), over the course of five years a biochemistry seminar was gradually optimized in three steps. This process used structural, methodological, and content components, such as vertical integration, the inverted classroom method, and competence orientation. For quality assurance, we analyzed the official, standardized evaluation sheets from a total of n&#61;1248 students. We evaluated the optimization process on the basis of </Pgraph><Pgraph><OrderedList><ListItem level="1" levelPosition="1" numString="1.">responses to evaluation statements that were arranged into categories such as &#8220;organization, structure, implementation&#8221; and &#8220;quality of teaching,&#8221; </ListItem><ListItem level="1" levelPosition="2" numString="2.">free text information, and </ListItem><ListItem level="1" levelPosition="3" numString="3.">the results of a pilot study conducted in parallel. </ListItem></OrderedList></Pgraph><Pgraph>We then determined the usefulness of the students&#8217; evaluation results for evaluating the optimization process.</Pgraph><Pgraph><Mark1>Results:</Mark1> Each developmental step resulted in a significantly more positive overall evaluation of the seminar by the students. This result was independent of whether the development was on a structural or methodological&#47;content-related level. In addition, the evaluations of the categories that were optimized were significantly better. For example, the vertical integration and introduction of the inverted classroom method were accompanied by a better evaluation of the &#8220;quality of teaching&#8221; and a change in the structure led to a higher score in the category &#8220;organization, structure, implementation.&#8221; A comparison with the free text evaluation sheets and the results of the pilot study supports the results.</Pgraph><Pgraph><Mark1>Conclusion: </Mark1>Although optimization of a curriculum or course is a major task, it can also be successfully completed in small steps. With this approach, new learning goals, for example as required in the Master Plan for Medical Studies 2020, can be continuously integrated and student satisfaction with a course can be increased. Student evaluation results can represent a kind of quality assurance in this process and can provide important impulses for optimization.</Pgraph></Abstract>
    <TextBlock language="en" linked="yes" name="1. Introduction">
      <MainHeadline>1. Introduction</MainHeadline><Pgraph>Efforts are being made on both the national and international level to optimize medical education (see <TextLink reference="1"></TextLink>, <TextLink reference="2"></TextLink>, <TextLink reference="3"></TextLink>, <TextLink reference="4"></TextLink>, &#91;<Hyperlink href="http:&#47;&#47;www.nklm.de">http:&#47;&#47;www.nklm.de</Hyperlink>&#93;). The Federal Government of Germany also wants to redesign medical education and, within the framework of its coalition agreement <TextLink reference="3"></TextLink>, is pursuing the implementation of the &#8220;Master Plan for Medical Studies 2020,&#8221; (MM2020), which was adopted in 2017 <TextLink reference="4"></TextLink>. The MM2020 calls for more practical relevance by linking clinical and theoretical content, teaching communication skills, and testing and continuously improving competence-oriented teaching formats.</Pgraph><Pgraph>The German Medical Faculty Association created the National Competence-based Catalogue of Learning Objectives in Medicine &#91;<Hyperlink href="http:&#47;&#47;www.nklm.de">http:&#47;&#47;www.nklm.de</Hyperlink>&#93; with the aim of facilitating the optimization of their curricula and, at the same time, creating a uniform basis. The catalogue includes learning objectives regarding both the roles of physicians as medical experts, communicators, and team members and physician-patient interactions, among other things.</Pgraph><Pgraph>Institutes may also have their own reasons for optimizing a course, such as poor evaluation results, for example.</Pgraph><Pgraph>In view of the current developments, every faculty, institute, and person responsible for teaching is faced with the challenge of adapting the curriculum or their own courses to future requirements. There are several ways to do this, but as a rule not all adaptations can be implemented as a one-time innovation, for example because the necessary resources are not available or comprehensive changes entail too much risk.</Pgraph><Pgraph>One possibility to implement comprehensive developments, however, is to establish subgoals and realize them one by one, thus gradually moving closer to achieving the overall goal. This method of small steps is used in a similar form in quality management (continuous improvement process &#91;CIP&#93; <TextLink reference="5"></TextLink>).</Pgraph><Pgraph>The advantage of using this approach when optimizing courses is that the first steps can be undertaken with limited resources, thus ensuring the capacity to act. It also makes it easier to identify and correct minor developments that do not produce the desired result. To structure the process, one can use models for curriculum development (e.g. Kern&#8217;s six-step approach <TextLink reference="6"></TextLink>) or quality assurance (e.g. PDCA&#47;PDSA cycle <TextLink reference="7"></TextLink>) also within the small steps. Similarly, small steps can be planned and implemented in the sense of best evidence medical education (BEME) <TextLink reference="8"></TextLink>, <TextLink reference="9"></TextLink>.</Pgraph><SubHeadline2>1.1 Objective</SubHeadline2><Pgraph>To evaluate whether the method of small steps can be successfully applied to optimize a course, we implemented the method in a biochemistry seminar that takes place in the preclinical part of the medical degree at Ulm University Medical School.</Pgraph><Pgraph>The changes to the seminar that were implemented between the winter semester (WS) 2012&#47;13 and summer semester (SS) 2017 were changing the scheduling of the seminar, vertical integration, changing the teaching concept, and integrating competence-oriented learning objectives. Apart from the change in scheduling of the seminar, these changes met some of the requirements of the MM2020.</Pgraph><Pgraph>We studied the following questions related to these changes:</Pgraph><Pgraph><OrderedList><ListItem level="1" levelPosition="1" numString="1.">Can a course be successfully optimized in small steps&#63;</ListItem><ListItem level="1" levelPosition="2" numString="2.">Are official evaluation measures collected as part of faculty quality management suitable for depicting an optimization in small steps&#63;</ListItem></OrderedList></Pgraph></TextBlock>
    <TextBlock language="de" linked="yes" name="1. Einleitung">
      <MainHeadline>1. Einleitung</MainHeadline><Pgraph>Auf nationaler wie internationaler Ebene gibt es Bem&#252;hungen, die medizinische Ausbildung weiterzuentwickeln (vgl. <TextLink reference="1"></TextLink>, <TextLink reference="2"></TextLink>, <TextLink reference="3"></TextLink>, <TextLink reference="4"></TextLink>, &#91;<Hyperlink href="http:&#47;&#47;www.nklm.de">http:&#47;&#47;www.nklm.de</Hyperlink>&#93;). Auch die Bundesregierung m&#246;chte das Medizinstudium umgestalten und verfolgt im Rahmen ihres Koalitionsvertrags <TextLink reference="3"></TextLink> die Umsetzung des in 2017 verabschiedeten &#34;Masterplan Medizinstudium 2020&#34; (MM2020) <TextLink reference="4"></TextLink>. In diesem werden u.a. mehr Praxisn&#228;he durch die Verkn&#252;pfung klinischer und theoretischer Inhalte, die Vermittlung kommunikativer Kompetenzen sowie die Erprobung und Weiterentwicklung kompetenzorientierter Lehrformate gefordert.</Pgraph><Pgraph>Mit dem Ziel, den Fakult&#228;ten die Weiterentwicklung ihrer Curricula zu erleichtern und gleichzeitig eine einheitliche Basis zu schaffen, hat der Medizinische Fakult&#228;tentag (MFT) den Nationalen Kompetenzbasierten Lernzielkatalog Medizin (NKLM) &#91;<Hyperlink href="http:&#47;&#47;www.nklm.de">http:&#47;&#47;www.nklm.de</Hyperlink>&#93; erstellt. Enthalten sind darin u.a. Lernziele zu den Arztrollen als medizinischer Experte, als Kommunikator und als Mitglied eines Teams sowie zur &#228;rztlichen Gespr&#228;chsf&#252;hrung.</Pgraph><Pgraph>Aber auch institutsintern kann es Gr&#252;nde geben, wie bspw. schlecht ausfallende Evaluationsergebnisse, die die Weiterentwicklung einer Lehrveranstaltung (LV) nahelegen.</Pgraph><Pgraph>In Anbetracht der aktuellen Entwicklungen steht jede Fakult&#228;t, jedes Institut und jede lehrverantwortliche Person vor der Herausforderung, das Curriculum bzw. die eigenen LV an zuk&#252;nftige Anforderungen anzupassen. Hierf&#252;r gibt es verschiedene M&#246;glichkeiten, jedoch lassen sich in der Regel nicht alle Anpassungen im Rahmen einer einmaligen Innovation umsetzen, da z.B. notwendige Ressourcen nicht zur Verf&#252;gung stehen oder allumfassende Ver&#228;nderungen mit einem zu gro&#223;en Risiko einhergehen.</Pgraph><Pgraph>Eine M&#246;glichkeit, umfassende Weiterentwicklungen dennoch vorzunehmen besteht darin, Teilziele aufzustellen und diese schrittweise umzusetzen, so dass mit jedem Schritt eine Ann&#228;herung an das Gesamtziel stattfindet. Diese Methode der kleinen Schritte wird in &#228;hnlicher Form auch im Rahmen des Qualit&#228;tsmanagements (kontinuierlicher Verbesserungsprozess (KVP) <TextLink reference="5"></TextLink>) angewandt.</Pgraph><Pgraph>Der Vorteil dieses Vorgehens bei der Weiterentwicklung von LV kann darin gesehen werden, dass bereits mit begrenzten Ressourcen erste kleine Schritte unternommen werden k&#246;nnen und somit die Handlungsf&#228;higkeit gew&#228;hrleistet ist. Auch k&#246;nnen kleinere Weiterentwicklungen, die nicht zum gew&#252;nschten Ergebnis f&#252;hren, leichter als solche identifiziert und korrigiert werden. Zur Strukturierung lassen sich auch innerhalb von Teilschritten Modelle zur Curriculumsentwicklung (z.B. Kern-Zyklus <TextLink reference="6"></TextLink>) bzw. der Qualit&#228;tssicherung (z.B. PDCA-&#47;PDSA-Zyklus <TextLink reference="7"></TextLink>) anwenden. Ebenso k&#246;nnen Teilschritte im Sinne von best evidence medical education (BEME) <TextLink reference="8"></TextLink>, <TextLink reference="9"></TextLink> geplant und durchgef&#252;hrt werden.</Pgraph><SubHeadline2>1.1 Zielsetzung</SubHeadline2><Pgraph>Um zu &#252;berpr&#252;fen, ob die Methode der kleinen Schritte erfolgreich auf die Weiterentwicklung einer LV angewendet werden kann, haben wir diese auf ein vorklinisches Biochemie-Seminar des Regelstudiengangs Humanmedizin in Ulm angewendet.</Pgraph><Pgraph>Weiterentwicklungen, die an der LV zwischen dem Wintersemester (WS) 2012&#47;13 und dem Sommersemester (SS) 2017 vorgenommen wurden, betreffen die zeitliche Verlegung des Seminars, die vertikale Integration, die Ver&#228;nderung des Lehrkonzepts und die Einbindung kompetenzorientierter Lernziele. Au&#223;er der Verlegung des Seminars gehen die genannten Ver&#228;nderungen auf die Forderungen durch den MM2020 ein.</Pgraph><Pgraph>Folgende Fragestellungen wurden bei der schrittweisen Weiterentwicklung untersucht:</Pgraph><Pgraph><OrderedList><ListItem level="1" levelPosition="1" numString="1.">Gelingt die Weiterentwicklung einer LV in kleinen Schritten&#63;</ListItem><ListItem level="1" levelPosition="2" numString="2.">Sind Ma&#223;e der offiziellen Evaluation, die im Rahmen des fakult&#228;ren Qualit&#228;tsmanagements erhoben werden, geeignet, um kleinschrittige Weiterentwicklungen abzubilden&#63;</ListItem></OrderedList></Pgraph></TextBlock>
    <TextBlock language="en" linked="yes" name="2. Methods">
      <MainHeadline>2. Methods</MainHeadline><SubHeadline2>2.1 Course to be optimized and starting position</SubHeadline2><Pgraph>The optimization in small steps was implemented in the &#8220;Integrated Seminar&#8221; at the Medical Faculty in Ulm, which &#8211; as stated Section 2, Paragraph 2 of the German Medical Licensing Regulations for Physicians &#8211; is a compulsory seminar on biochemistry for medical students in the pre-clinical part of their degree. Sixteen groups of 20 students were assigned to the biochemistry seminar in each year of the study period (2012 to 2017). Depending on the year, five to seven different experienced lecturers taught the seminar, whereby each group of students was led by only one lecturer (see <TextLink reference="10"></TextLink> for details). During the study, a total of 11 different lecturers were responsible for teaching the seminar, five of them only occasionally: these five lecturers taught only 12 of the 96 seminar groups over the course of the study (in 2012, 2013, 2016, 2017), while the remaining 84 seminar groups were taught by the remaining six lecturers.</Pgraph><Pgraph>In the WS 2012&#47;13 seminar, students gave presentations on the principles of biochemistry (e.g. DNA, transcription, translation, and proteins) and the respective lecturer moderated the presentations. The teaching focused on the learning of facts, was neither student nor competence oriented and was scheduled at the end of the 3rd semester, directly after a work-intensive course.</Pgraph><SubHeadline2>2.2 Building blocks for optimizing the seminar</SubHeadline2><Pgraph>Figure 1 <ImgLink imgNo="1" imgType="figure"/> illustrates the optimization of the seminar in the respective periods.</Pgraph><SubHeadline2>Structural changes</SubHeadline2><Pgraph>To better coordinate the curriculum (temporal proximity of lecture and seminar), in the SS 2013 the biochemistry seminar was moved from the end of the 3<Superscript>rd</Superscript> semester to the end of the second semester. In SS 2015, it was moved again to the middle of the second semester.</Pgraph><SubHeadline2>Vertical integration</SubHeadline2><Pgraph>One way to increase the practical relevance of the preclinical part of the degree is to include clinical content, an approach that is also referred to as &#8220;vertical integration&#8221;. Besides increasing the vividness of basic science content and in turn its relevance, vertical integration supports the development of students&#8217; clinical decision-making competence <TextLink reference="11"></TextLink>, <TextLink reference="12"></TextLink>.</Pgraph><Pgraph>In the SS 2013, the principles of biochemistry were taught on the basis of the clinical presentation of Osteogenesis imperfecta, Ehlers-Danlos syndrome, and scurvy to illustrate the relevance of the topics. This change also contributed to fulfilling the MM2020&#8217;s requirements for more practical relevance and learning objectives of the National Competence-based Catalogue of Learning Objectives in Medicine (e.g. the doctor as a medical expert, Learning goal 5.2.1.1). In SS 2017, the examples of disease presentations were enhanced (see <TextLink reference="10"></TextLink> for details).</Pgraph><SubHeadline3>The inverted classroom method (ICM)</SubHeadline3><Pgraph>The ICM is a blended learning method in which students initially acquire factual knowledge on their own (self-learning phase). This creates space in the subsequent presence phase for students to apply, analyze and synthesize the learned content in the group and with the lecturer <TextLink reference="13"></TextLink>, <TextLink reference="14"></TextLink>. According to the revised taxonomy of Bloom <TextLink reference="15"></TextLink>, this approach enables a higher cognitive learning process. The ICM can also be used for competence-oriented teaching <TextLink reference="10"></TextLink> and to increase student motivation <TextLink reference="16"></TextLink>.</Pgraph><Pgraph>The ICM therefore allows the MM2020 requirements to be met for a competence-oriented design of medical education and for the testing and continuous improvement of corresponding teaching formats. The concrete design of the ICM used here was successfully piloted in the SS 2016 (see <TextLink reference="10"></TextLink> for details) and was introduced for all seminar groups in SS 2017.</Pgraph><SubHeadline3>Communication skills</SubHeadline3><Pgraph>In recent decades, communication skills have become a key aspect of medical education. Studies and consensus papers on, ideas about, and models for integrating communicative skills into a curriculum have been published demonstrating the efficacy of communication skills training <TextLink reference="17"></TextLink>, <TextLink reference="18"></TextLink>, <TextLink reference="19"></TextLink>, <TextLink reference="20"></TextLink>, <TextLink reference="21"></TextLink>. The teaching of communication skills is also a key element of MM2020.</Pgraph><Pgraph>After a successful pilot study in SS 2016 (see <TextLink reference="10"></TextLink> for details), in the SS 2017 learning objectives from the National Competence-based Catalogue of Learning Objectives in Medicine regarding communication in a team, with colleagues and with laypeople were integrated into all seminar groups in the form of role-playing games and tasks for preparing oral examination scenarios.</Pgraph><SubHeadline2>2.3 Data collection and analysis</SubHeadline2><Pgraph>For the analyses, we used data that had been collected voluntarily and anonymously from students on the official, standardized evaluation forms of the Medical Faculty Ulm for the periods WS 2012&#47;13 to SS 2017. We analyzed the interval-scale data for the categories &#8220;organization, structure, implementation of the seminar,&#8221; &#8220;commitment to teaching of the lecturers,&#8221; and &#8220;quality of teaching in the seminar&#8221;; each of these categories consisted of three evaluation statements that were rated on a Likert-type scale ranging from 1&#61;&#8220;does not apply at all&#8221; to 6&#61;&#8220;fully applies&#8221; (see table 1 <ImgLink imgNo="1" imgType="table"/>). In addition, we evaluated the overall evaluation of the seminar, which had been assessed on a Likert-type scale ranging from 1&#61;&#8220;very good&#8221; to 6&#61;&#8220;insufficient&#8221;, and the responses to the dichotomous question whether there was a &#8220;need for action to optimize the seminar.&#8221;</Pgraph><Pgraph>We also quantified free texts: As part of the evaluation, students can express praise in one free text field and criticism in another. Positive or negative free texts in the respective free text fields were counted and summed for each period of time. Negative free texts in the free text field for praise were not included and vice versa, and neutral free texts were not evaluated. Representative free texts are quoted in suitable places below, and more example free texts can be found in the attachment 1 <AttachmentLink attachmentNo="1"/>.</Pgraph><Pgraph>Because there were no significant differences between the data from the years between which the seminar was not changed (see figure 1 <ImgLink imgNo="1" imgType="figure"/>), the respective data were pooled. Differences between the periods in which changes were made were tested by analyses of variance without repeated measurements, and individual values were compared with the post hoc test Tukey&#8217;s HSD. Changes in the &#8220;need for action&#8221; and the quantified free texts were analyzed by chi-square tests. Differences with a p-value &#60; 0.05 were considered significant and relevant. All analyses were performed with IBM SPSS Statistics for Windows <TextLink reference="22"></TextLink>.</Pgraph><Pgraph>The Ethics Committee of the University of Ulm considered it unnecessary to submit an official application.</Pgraph></TextBlock>
    <TextBlock language="de" linked="yes" name="2. Methoden">
      <MainHeadline>2. Methoden</MainHeadline><SubHeadline2>2.1 Gegenstand der Weiterentwicklung und Ausgangslage</SubHeadline2><Pgraph>Die Weiterentwicklung in kleinen Schritten wurde anhand des Integrierten Seminars nach &#167;2, Abs. 2 &#196;AppO durchgef&#252;hrt, welches eine Pflichtveranstaltung f&#252;r Studierende der Humanmedizin im vorklinischen Studienabschnitt ist. F&#252;r das Biochemie-Seminar wurden an der Medizinischen Fakult&#228;t Ulm im Untersuchungszeitraum 2012 bis 2017 f&#252;r jedes Jahr 16 Gruppen &#225; 20 Studierende eingeteilt. Je nach Jahr unterrichteten f&#252;nf bis sieben unterschiedliche und erfahrene Lehrpersonen, wobei eine Studierendengruppe von jeweils nur einer Lehrperson angeleitet wurde (Details siehe <TextLink reference="10"></TextLink>). Im Untersuchungszeitraum waren insgesamt elf verschiedene Lehrpersonen f&#252;r die Begleitung der Veranstaltung verantwortlich, wobei f&#252;nf der Lehrpersonen jeweils nur vereinzelt eingesetzt wurden. Im Detail unterrichteten diese f&#252;nf Personen &#252;ber den gesamten Untersuchungszeitraum (2012, 2013, 2016, 2017) lediglich 12 der insgesamt 96 Seminargruppen, wohingegen die restlichen 84 Seminargruppen von den anderen sechs Dozierenden angeleitet wurden.</Pgraph><Pgraph>Zum WS 2012&#47;13 wurden im Seminar Referate zu biochemischen Grundlagen (z.B. DNA, Transkription, Translation und Proteine) durch Studierende gehalten und durch die jeweiligen Lehrpersonen erg&#228;nzend moderiert. Der Unterricht konzentrierte sich auf das Erlernen von Fakten, war weder studierenden- noch kompetenzorientiert und fand am Ende des 3. Semesters direkt im Anschluss an einen arbeitsintensiven Kurs statt.</Pgraph><SubHeadline2>2.2 Bausteine zur Seminarweiterentwicklung</SubHeadline2><Pgraph>Abbildung 1 <ImgLink imgNo="1" imgType="figure"/> veranschaulicht die Seminarweiterentwicklung der jeweiligen Zeitr&#228;ume.</Pgraph><SubHeadline3>Strukturelle Ver&#228;nderungen</SubHeadline3><Pgraph>Um das Curriculum besser abzustimmen (zeitliche N&#228;he von Vorlesung und Seminar), wurde das Biochemie-Seminar zum SS 2013 vom Ende des 3. an das Ende des 2. Semesters verlegt. Eine weitere Verlegung erfolgte zum SS 2015 in den Verlauf des 2. Semesters.</Pgraph><SubHeadline3>Vertikale Integration</SubHeadline3><Pgraph>Ein Weg zu mehr Praxisn&#228;he im vorklinischen Studienabschnitt l&#228;sst sich &#252;ber den Einbezug klinischer Inhalte realisieren, was auch als vertikale Integration bezeichnet wird. Neben der Erh&#246;hung der Anschaulichkeit basiswissenschaftlicher Inhalte und damit verbunden der Relevanz unterst&#252;tzt die vertikale Integration die Entwicklung der klinischen Entscheidungsfindungskompetenz bei Studierenden <TextLink reference="11"></TextLink>, <TextLink reference="12"></TextLink>.</Pgraph><Pgraph>Zum SS 2013 wurden die biochemischen Grundlagen anhand der Krankheitsbilder Osteogenesis imperfecta, Ehlers-Danlos-Syndrom und Skorbut vermittelt, um die Relevanz des Themas zu verdeutlichen. Auch wird dadurch der Forderung des MM2020 nach mehr Praxisn&#228;he sowie Lernzielen des NKLM (z.B. die &#196;rztin und der Arzt als medizinische&#47;-r Experte&#47;-in, Lernziel 5.2.1.1) nachgegangen. Zum SS 2017 wurden die Beispiele zu den Krankheitsbildern gesch&#228;rft (Details siehe <TextLink reference="10"></TextLink>).</Pgraph><SubHeadline3>Die Inverted Classroom-Methode (ICM)</SubHeadline3><Pgraph>Die ICM ist eine Blended Learning-Methode, bei der sich Studierende in einer ersten Phase Faktenwissen aneignen (Selbstlernphase). In den dadurch geschaffenen Freir&#228;umen der darauffolgenden Pr&#228;senzphase k&#246;nnen Studierende die gelernten Inhalte in der Gruppe und mit der Lehrperson anwenden, analysieren und synthetisieren <TextLink reference="13"></TextLink>, <TextLink reference="14"></TextLink>. Der &#252;berarbeiteten Taxonomie von Bloom <TextLink reference="15"></TextLink> folgend wird dadurch ein h&#246;herer kognitiver Lernprozess erm&#246;glicht. Auch bietet sich die ICM an, kompetenzorientiert zu lehren <TextLink reference="10"></TextLink> und die Motivation von Studierenden zu steigern <TextLink reference="16"></TextLink>.</Pgraph><Pgraph>Die ICM erm&#246;glicht es daher, den Forderungen des MM2020 nach einer kompetenzorientierten Ausgestaltung der &#228;rztlichen Ausbildung sowie der Erprobung und Weiterentwicklung entsprechender Lehrformate nachzukommen. Die konkrete Ausgestaltung der verwendeten ICM wurde im SS 2016 erfolgreich pilotiert (Details siehe <TextLink reference="10"></TextLink>) und zum SS 2017 f&#252;r alle Gruppen des Seminars eingef&#252;hrt.</Pgraph><SubHeadline3>Kommunikative Kompetenzen</SubHeadline3><Pgraph>Kommunikative Kompetenzen wurden in den letzten Jahrzehnten zu einem zentralen Aspekt der medizinischen Ausbildung. Studien, Konsens-Papiere, Konzepte und Modelle, um kommunikative Kompetenzen in ein Curriculum einzubeziehen, wurden entsprechend beschrieben und belegen die Wirksamkeit von Trainings zu kommunikativer Kompetenz <TextLink reference="17"></TextLink>, <TextLink reference="18"></TextLink>, <TextLink reference="19"></TextLink>, <TextLink reference="20"></TextLink>, <TextLink reference="21"></TextLink>. Die Vermittlung kommunikativer Kompetenzen ist auch ein Kernpunkt des MM2020.</Pgraph><Pgraph>Zum SS 2017 wurden Lernziele des NKLM zur Kommunikation im Team, mit Fachkollegen und mit Laien f&#252;r alle Seminargruppen in Form von Rollenspielen sowie Aufgaben zur Vorbereitung m&#252;ndlicher Pr&#252;fungsszenarien eingebunden, nachdem diese im SS 2016 erfolgreich pilotiert wurden (Details siehe <TextLink reference="10"></TextLink>).</Pgraph><SubHeadline2>2.3 Datenerhebung und -auswertung</SubHeadline2><Pgraph>F&#252;r die Analysen wurden freiwillig und anonym erhobene Daten der offiziellen und standardisierten Evaluationsb&#246;gen der Medizinischen Fakult&#228;t Ulm f&#252;r die Zeitr&#228;ume WS 2012&#47;13 bis SS 2017 eingeholt.</Pgraph><Pgraph>Ausgewertet wurden intervallskalierte Daten zu den Kategorien &#8222;Organisation, Struktur, Aufbau der LV&#8220;, &#8222;Lehrengagement der beteiligten Dozierenden&#8220; und &#8222;Didaktische Umsetzung der LV&#8220;, die sich jeweils aus drei Evaluationsfragen (siehe Tabelle 1 <ImgLink imgNo="1" imgType="table"/>) zusammensetzen. Zus&#228;tzlich wurde die &#8222;Gesamtbewertung der LV als Schulnote&#8220; sowie der dichotom erfragte &#8222;Handlungsbedarf bez&#252;glich einer Optimierung der LV&#8220; herangezogen.</Pgraph><Pgraph>Au&#223;erdem wurden Freitexte quantifiziert: Studierende haben innerhalb der Evaluation die M&#246;glichkeit, &#252;ber ein Freitextfeld Lob auszusprechen sowie &#252;ber ein weiteres Freitextfeld Kritik zu &#228;u&#223;ern. Positive bzw. negative Freitexte der jeweils daf&#252;r vorgesehenen Freitextfelder wurden f&#252;r die einzelnen Zeitr&#228;ume ausgez&#228;hlt und aufsummiert. Negative Freitexte im Freitextfeld f&#252;r Lob wurden nicht ber&#252;cksichtigt und vice versa, neutrale Freitexte wurden nicht ausgewertet. Repr&#228;sentative Freitexte sind an geeigneten Stellen aufgef&#252;hrt, weitere exemplarische Freitexte finden sich im Anhang 1 <AttachmentLink attachmentNo="1"/>.</Pgraph><Pgraph>Da zwischen den Daten der einzelnen Jahre, zwischen denen keine Ver&#228;nderung an der LV vorgenommen wurde (siehe Abbildung 1 <ImgLink imgNo="1" imgType="figure"/>), keine signifikanten Unterschiede festgestellt wurden, wurden entsprechende Daten zusammengefasst. Unterschiede zwischen den Zeitr&#228;umen, in denen Ver&#228;nderungen vorgenommen wurden, wurden mittels Varianzanalysen ohne Messwiederholung, Einzelvergleiche mit dem post-hoc Test Tukey-HSD gepr&#252;ft. Ver&#228;nderungen zum &#8222;Handlungsbedarf&#8220; sowie zu den quantifizierten Freitexten wurden mittels Chi-Quadrat-Tests analysiert. Unterschiede ab einem p-Value &#60;0.05 wurden als signifikant und bedeutsam betrachtet. Alle Analysen wurden mit der Software IBM SPSS Statistics for Windows <TextLink reference="22"></TextLink> durchgef&#252;hrt.</Pgraph><Pgraph>Die Ethikkommission der Universit&#228;t Ulm erachtete einen offiziellen Antrag als nicht notwendig.</Pgraph></TextBlock>
    <TextBlock language="en" linked="yes" name="3. Results">
      <MainHeadline>3. Results</MainHeadline><SubHeadline2>3.1 Evaluations in WS 2012&#47;13</SubHeadline2><Pgraph>The analysis of the evaluations in WS 2012&#47;13 found that students often did not recognize the relevance of the basic topics (quote: &#8220;It might be better to link the presentations to certain diseases, to make the relevance clearer &#91;...&#93;&#8221;) and were dissatisfied with the communication of facts through presentations by their fellow students (quote: &#8220;20 presentations in a row is simply not effective &#91;..&#93;&#8221;). This is also reflected in the relatively low scores in the categories &#8220;commitment to teaching&#8221; and &#8220;quality of teaching,&#8221; as well as in the &#8220;overall evaluation&#8221; (see figure 2 <ImgLink imgNo="2" imgType="figure"/> and figure 3 <ImgLink imgNo="3" imgType="figure"/>). Because of the large number of presentations and the scheduling of the seminar at the end of the 3<Superscript>rd</Superscript> semester, the motivation during and satisfaction with the seminar were low (quote: &#8220;At the end of the really exhausting 3<Superscript>rd</Superscript> semester, it was just &#8216;get this over with, too ...&#8217;&#8220;). The majority of free texts (91.5&#37;) were negative (see figure 4 <ImgLink imgNo="4" imgType="figure"/>).</Pgraph><SubHeadline2>3.2 Evaluations in SS 2013 and 2014</SubHeadline2><Pgraph>Moving the seminar to the end of the 2<Superscript>nd</Superscript> semester did not result in any significant difference in the area of &#8220;organization, structure, implementation&#8221; (p&#61; 0.998; see figure 2 <ImgLink imgNo="2" imgType="figure"/>, point A). Hints as to why not were apparent from the following free texts: &#8220;Why now&#63; After the semester is &#8216;over&#8217;&#63;&#8221;; &#8220;&#91;...&#93; then parallel to the psych course &#91;...&#93;.&#8221;</Pgraph><Pgraph>On the other hand, after the vertical integration of clinical diseases the evaluations of &#8220;commitment to teaching&#8221; and &#8220;quality of teaching&#8221; improved significantly (see figure 2 <ImgLink imgNo="2" imgType="figure"/>, points B and C), which was also expressed in some free texts, for example: &#8220;It was good that the lecturer tried to explain what we did not understand by using practical examples.&#8221; There was also a significant improvement in the &#8220;need for action&#8221; (see figure 2 <ImgLink imgNo="2" imgType="figure"/>, point D) and the &#8220;overall evaluation&#8221; (see figure 3 <ImgLink imgNo="3" imgType="figure"/>). The proportion of negative free texts decreased to 77.2&#37; (see figure 4 <ImgLink imgNo="4" imgType="figure"/>).</Pgraph><SubHeadline2>3.3 Evaluations in SS 2015 and 2016</SubHeadline2><Pgraph>After moving the seminar to the middle of the second semester, the scores for &#8220;organization, structure, implementation&#8221; increased significantly (see figure 2 <ImgLink imgNo="2" imgType="figure"/>, point A). There were also only a few critical free texts about the scheduling of the seminar and significant improvements in both the &#8220;need for action&#8221; (see figure 2 <ImgLink imgNo="2" imgType="figure"/>, point D) and the &#8220;overall evaluation&#8221; (see figure 3 <ImgLink imgNo="3" imgType="figure"/>). The negative free texts decreased further to 66.5&#37; (see figure 4 <ImgLink imgNo="4" imgType="figure"/>).</Pgraph><Pgraph>An analysis of the free texts found that there were still some criticisms: </Pgraph><Pgraph><OrderedList><ListItem level="1" levelPosition="1" numString="1.">Poor motivation and concentration (quote: &#8220;The topics are complicated, and it&#8217;s difficult to concentrate for four hours&#8221;); </ListItem><ListItem level="1" levelPosition="2" numString="2.">poor learning atmosphere (quote: &#8220;&#91;...&#93; did not manage to create a positive learning atmosphere at any of the sessions &#91;...&#93;&#8221;); </ListItem><ListItem level="1" levelPosition="3" numString="3.">unclear learning objectives (quote: &#8220;&#91;...&#93; because I could not see any relevance for exams or the like.&#8221;).</ListItem></OrderedList></Pgraph><SubHeadline2>3.4 Evaluations in SS 2017</SubHeadline2><Pgraph>The introduction of ICM and the communication-related learning objectives were associated with significant increases in the areas of &#8220;organization, structure, implementation,&#8221; &#8220;commitment to teaching,&#8221; and &#8220;quality of teaching&#8221; (see figure 2 <ImgLink imgNo="2" imgType="figure"/>, points A-C). There were also significant improvements in the &#8220;need for action&#8221; and &#8220;overall evaluation&#8221; (see figure 2 <ImgLink imgNo="2" imgType="figure"/>, point D and figure 3 <ImgLink imgNo="3" imgType="figure"/>). The proportion of negative free texts decreased to 43.8&#37; (see figure 4 <ImgLink imgNo="4" imgType="figure"/>). The following free text is representative of frequent statements about the ICM: &#8220;I love this model&#33; Should also be extended to other seminars&#33; The time requirement is almost the same, but the learning is much more productive&#33;&#8221;</Pgraph></TextBlock>
    <TextBlock language="de" linked="yes" name="3. Ergebnisse">
      <MainHeadline>3. Ergebnisse</MainHeadline><SubHeadline2>3.1 Evaluationsergebnisse WS 2012&#47;13</SubHeadline2><Pgraph>Die Analyse der Evaluationsergebnisse des WS 2012&#47;13 zeigte, dass Studierende die Relevanz der grundlagenorientierten Themen h&#228;ufig nicht erkannten (Zitat: &#8222;Es w&#228;re vielleicht besser die Referate an bestimmten Krankheiten aufzuh&#228;ngen, sodass die Relevanz klarer wird &#91;&#8230;&#93;&#8220;) und mit der Faktenvermittlung &#252;ber Referate ihrer Mitstudierenden unzufrieden waren (Zitat: &#8222;20 Referate am St&#252;ck sind einfach nicht effektiv &#91;..&#93;&#8220;). Dies dr&#252;ckt sich auch in den relativ niedrigen Skalenwerten in den Kategorien &#8222;Lehrengagement&#8220; und &#8222;Didaktische Umsetzung&#8220; sowie in der &#8222;Gesamtbewertung&#8220; aus (siehe Abbildung 2 <ImgLink imgNo="2" imgType="figure"/> und Abbildung 3 <ImgLink imgNo="3" imgType="figure"/>). Durch die hohe Anzahl an Referaten und den Zeitpunkt des Seminars am Ende des 3. Semesters war die Motivation in und die Zufriedenheit mit dem Seminar gering (Zitat: &#8222;Am Ende des wirklich kr&#228;ftezehrenden 3. Semesters war es nur noch &#39;das halt auch noch rumbekommen...&#39;&#8220;). 91,5&#37; der Freitexte fielen negativ aus (siehe Abbildung 4 <ImgLink imgNo="4" imgType="figure"/>).</Pgraph><SubHeadline2>3.2 Evaluationsergebnisse SS 2013 und 2014</SubHeadline2><Pgraph>Die Verlegung des Seminars ans Ende des 2. Semesters f&#252;hrte im Bereich &#8222;Organisation, Struktur, Aufbau&#8220; zu keinem signifikanten Unterschied (p&#61; 0.998; siehe Abbildung 2 <ImgLink imgNo="2" imgType="figure"/>, Punkt A). Hinweise hierf&#252;r gaben folgende Freitexte: &#8222;Warum zu diesem Zeitpunkt&#63; Nachdem das Semester &#8218;gelaufen&#8216; ist&#63;&#8220;, &#8222;&#91;&#8230;&#93; dann noch parallel zum Psycho-Kurs &#91;&#8230;&#93;&#8220;.</Pgraph><Pgraph>Demgegen&#252;ber stiegen mit der vertikalen Integration klinischer Krankheitsbilder die Bewertungen zu &#8222;Lehrengagement&#8220; und &#8222;Didaktische Umsetzung&#8220; signifikant an (siehe Abbildung 2 <ImgLink imgNo="2" imgType="figure"/>, Punkt B und Punkt C), was auch durch Freitexte zum Ausdruck kommt: &#8222;Gut war, dass die Dozentin versuchte, nicht Verstandenes mit praktischen Beispielen zu erkl&#228;ren.&#8220; Ebenso zeigte sich eine signifikante Verbesserung bzgl. des &#8222;Handlungsbedarfs&#8220; (siehe Abbildung 2 <ImgLink imgNo="2" imgType="figure"/>, Punkt D) und der &#8222;Gesamtbewertung&#8220; (siehe Abbildung 3 <ImgLink imgNo="3" imgType="figure"/>). Der Anteil negativer Freitexte verringerte sich auf 77,2&#37; (siehe Abbildung 4 <ImgLink imgNo="4" imgType="figure"/>).</Pgraph><SubHeadline2>3.3 Evaluationsergebnisse SS 2015 und 2016</SubHeadline2><Pgraph>Nach einer erneuten Verlegung des Seminars in den Verlauf des 2. Semester stiegen die Bewertungen f&#252;r &#8222;Organisation, Struktur, Aufbau&#8220; signifikant an (siehe Abbildung 2 <ImgLink imgNo="2" imgType="figure"/>, Punkt A). Auch gab es nur vereinzelt kritische Freitexte zur zeitlichen Verortung des Seminars. Hinsichtlich des &#8222;Handlungsbedarfs&#8220; (siehe Abbildung 2 <ImgLink imgNo="2" imgType="figure"/>, Punkt D) sowie der &#8222;Gesamtbewertung&#8220; (siehe Abbildung 3 <ImgLink imgNo="3" imgType="figure"/>) zeigten sich ebenfalls signifikante Verbesserungen. Die negativen Freitexte verringerten sich weiter auf 66,5&#37; (siehe Abbildung 4 <ImgLink imgNo="4" imgType="figure"/>).</Pgraph><Pgraph>Eine Analyse der Freitexte ergab weiterhin bestehende Kritikpunkte: </Pgraph><Pgraph><OrderedList><ListItem level="1" levelPosition="1" numString="1.">niedrige Motivation und Konzentration (Zitat: &#8222;Die Themen sind kompliziert und es ist schwierig vier Stunden konzentriert zu sein&#8220;), </ListItem><ListItem level="1" levelPosition="2" numString="2.">unbefriedigende Lernatmosph&#228;re (Zitat: &#8222;&#91;&#8230;&#93; bei keinem der Termine &#91;&#8230;&#93; eine positive Lernatmosph&#228;re &#91;&#8230;&#93;&#8220;), </ListItem><ListItem level="1" levelPosition="3" numString="3.">unklare Lernziele (Zitat: &#8222;&#91;&#8230;&#93; da jegliche Relevanz f&#252;r Klausuren o. &#228;. nicht erkenntlich war.&#8220;).</ListItem></OrderedList></Pgraph><SubHeadline2>3.4 Evaluationsergebnisse SS 2017</SubHeadline2><Pgraph>Die Einf&#252;hrung der ICM und der Lernziele zur Kommunikation gingen mit signifikanten Anstiegen in den Bereichen &#8222;Organisation, Struktur, Aufbau&#8220;, &#8222;Lehrengagement&#8220; und &#8222;Didaktische Umsetzung&#8220; einher (siehe Abbildung 2 <ImgLink imgNo="2" imgType="figure"/>, Punkte A-C). Auch bzgl. des &#8222;Handlungsbedarfs&#8220; sowie der &#8222;Gesamtbewertung&#8220; zeigten sich signifikante Verbesserungen (siehe Abbildung 2 <ImgLink imgNo="2" imgType="figure"/>, Punkt D und Abbildung 3 <ImgLink imgNo="3" imgType="figure"/>). Der Anteil negativer Freitexte verringerte sich auf 43,8&#37; (siehe Abbildung 4 <ImgLink imgNo="4" imgType="figure"/>). Folgender Freitext steht stellvertretend f&#252;r h&#228;ufige Aussagen hinsichtlich der ICM: &#8222;Finde dieses Modell super&#33; Sollte auch auf andere Seminare ausgebaut werden&#33; Der Zeitaufwand ist fast derselbe, aber das Lernen sehr viel produktiver&#33;&#8220;.</Pgraph></TextBlock>
    <TextBlock language="en" linked="yes" name="4. Discussion">
      <MainHeadline>4. Discussion</MainHeadline><SubHeadline2>4.1 Baseline situation (WS 2012&#47;2013)</SubHeadline2><Pgraph>The poor overall evaluation and the clear need for action in the evaluation of the WS 2012&#47;13 formed the starting point for the optimization of the seminar. An analysis of the free texts revealed worthwhile steps that could be taken, illustrating the usefulness of student evaluations.</Pgraph><SubHeadline2>4.2 First step (SS 2013 and 2014)</SubHeadline2><Pgraph>Moving the seminar to an earlier time in the semester did not affect the student evaluation of &#8220;organization, structure, implementation.&#8221; A good explanation for this finding is that the move resulted in the seminar competing with another course and that part of the problem, i.e. the scheduling at the end of the semester, had not been solved. Another explanation is related to the sensitivity of this category and is discussed in more detail below (section 4.3).</Pgraph><Pgraph>The improvements in the areas of &#8220;commitment to teaching&#8221; and &#8220;quality of teaching&#8221; and the declining proportion of critical free texts were at least partly due to the vertical integration of clinical aspects, which is apparent from the free texts. Studies have shown that vertical integration can have a positive effect on motivation and the depth of understanding <TextLink reference="23"></TextLink>, <TextLink reference="24"></TextLink>. Lecturers may have been subconsciously sensitized to these issues through the change to the seminar, which in turn could have affected the evaluation results, particularly in the area of &#8220;commitment to teaching.&#8221; The respective proportion of these effects (vertical integration or sensitization) cannot be clarified on the basis of the available data. This also applies to the improvement of the overall evaluation, although this evaluation gives a positive general impression of the first step.</Pgraph><SubHeadline2>4.3 Second step (SS 2015 and 2016)</SubHeadline2><Pgraph>The rather minor improvement in the area of &#8220;organization, structure, implementation&#8221; can be attributed to the fact that the evaluation statements on the category were based less on the scheduling of the seminar in the curriculum and more on the organizational aspects of the seminar (see table 1 <ImgLink imgNo="1" imgType="table"/>). In the free texts, there was only occasional criticism about the scheduling, so we did not change it again. Taken together, the overall evaluation, the decrease in the need for action, and the proportion of critical free texts indicated that the change was positive.</Pgraph><SubHeadline2>4.4 Third step (SS 2017)</SubHeadline2><Pgraph>After the introduction of the ICM and the associated structural change in the seminar, the evaluation in the area of &#8220;organization, structure, implementation&#8221; further improved significantly. This finding is in line with other studies, which also found that students have a positive perception of the organizational structure of ICM <TextLink reference="13"></TextLink>, <TextLink reference="25"></TextLink>.</Pgraph><Pgraph>The ICM was able to address most of the outstanding needs regarding methodological and teaching aspects. The pilot study of the ICM in the SS 2016 showed that the ICM and the associated involvement of other teaching elements can clarify the relevance of the learning content and increase motivation <TextLink reference="10"></TextLink>. The finding in the present study that this effect was also reflected in the categories &#8220;commitment to teaching&#8221; and &#8220;quality of teaching&#8221; was also supported by the results of the pilot study: This controlled intervention study found positive changes in the underlying evaluation statements of these categories within the same cohorts, just as we did here between different cohorts <TextLink reference="10"></TextLink>. These observations are consistent with the results of other studies, which described more intensive learning and increased motivation as a result of the ICM <TextLink reference="16"></TextLink>, <TextLink reference="26"></TextLink>. Because both the seminar content and method were optimized, it is not possible to further differentiate between individual effects on &#8220;commitment to teaching&#8221; and &#8220;quality of teaching.&#8221;</Pgraph><Pgraph>Overall, the improvement in the overall evaluation, the decrease in the need for action and the increase in positive free texts demonstrate that the third step was successful.</Pgraph><SubHeadline2>4.5 Method of small steps</SubHeadline2><Pgraph>In our opinion, the optimization of the biochemistry seminar in small steps was successful, even though each individual step, for example the first change in the scheduling of the seminar, did not directly result in an improvement. However, the associated reasons could be easily identified and, in the next step, eliminated, allowing an improvement to be achieved. The advantage of the method is apparent in the small-step approach, which allows relatively simple adjustments to be made. Evidence-based teaching methods can also be integrated into this approach and, if adapted to the local conditions, might lead to more or stronger positive effects.</Pgraph><SubHeadline2>4.6 Suitability of student evaluations</SubHeadline2><Pgraph>The validity of student evaluations can be viewed critically <TextLink reference="27"></TextLink>. Nevertheless, the data presented here show that student evaluations can be used to depict optimization of a course in small steps, at least to a limited extent. For example, the student evaluations of &#8220;organization, structure, implementation&#8221; did not change between WS 2012&#47;13 and SS 2013, but they did between the SS 2014 and SS 2015. It is also necessary to draw attention to their limits, however. For example, we could only evaluate the SS 2017 results on &#8220;commitment to teaching&#8221; and &#8220;quality of teaching&#8221; in a more differentiated way in association with the results of the pilot study. In the same way, we could only largely rule out effects of the cohort by comparing the results of the pilot study, which was performed within one cohort, with those of the current study. The usefulness of evaluation results also depends on how differentiated the inquiry is, as the discussion on the second development step shows.</Pgraph><SubHeadline2>4.7 Limitations</SubHeadline2><Pgraph>The present study focused on student evaluations. Thus, it could not describe the extent to which the optimization had an impact on learning performance. However, the evaluation of learning success on the basis of multiple choice questions in the pilot study indicated non-inferiority of the final step <TextLink reference="10"></TextLink>.</Pgraph><Pgraph>The WS 2012&#47;13 sample showed a high degree of variability between some evaluation time points (see figure 2 <ImgLink imgNo="2" imgType="figure"/>), which may have had an impact on the results. We attribute this variability to the high dissatisfaction with the format of the seminar at that time, which may have led students to not respond to the statements on &#8220;quality of teaching.&#8221; </Pgraph><Pgraph>A further limitation may be the change in lecturers over the seminar optimization period. Because only one eighth (12 of 96) of the groups were affected, the various lecturers had comparable qualifications, and the changes happened in several different years and were not made with the aim to improve the seminar, however, we do not think it likely that the changes had a significant impact on the results. On the other hand, the continuous improvement in the evaluation results, despite personnel changes, could also be interpreted in favor of a lecturer-independent optimization of the seminar.</Pgraph></TextBlock>
    <TextBlock language="de" linked="yes" name="4. Diskussion">
      <MainHeadline>4. Diskussion</MainHeadline><SubHeadline2>4.1 Ausgangslage (WS 2012&#47;2013)</SubHeadline2><Pgraph>Die schlecht ausfallende Gesamtbewertung sowie der deutliche Handlungsbedarf der Evaluation des WS 2012&#47;13 bildeten den Ausgangspunkt f&#252;r die Weiterentwicklung des Seminars. Eine Analyse der Freitexte zeigte hierf&#252;r lohnenswerte Schritte auf was die N&#252;tzlichkeit studentischer Evaluationen verdeutlicht.</Pgraph><SubHeadline2>4.2 Erster Teilschritt (SS 2013 und 2014)</SubHeadline2><Pgraph>Die Vorverlegung des Seminars zeigte keine Auswirkung auf die studentische Bewertung zu &#8222;Organisation, Struktur, Aufbau&#8220;. Dieser Umstand kann gut dadurch erkl&#228;rt werden, dass sich durch die Vorverlegung eine Konkurrenzsituation zu einer anderen LV ergab und ein Teilproblem, die zeitliche Verortung am Ende des Semesters, weiterhin bestand. Eine weitere Erkl&#228;rung bezieht sich auf die Sensitivit&#228;t dieser Skala und wird weiter unten ausgef&#252;hrt (Kap. 4.3).</Pgraph><Pgraph>Die Verbesserungen in den Bereichen &#8222;Lehrengagement&#8220; und &#8222;Didaktik&#8220; sowie der r&#252;ckl&#228;ufige Anteil an kritikbezogenen Freitexten kann zumindest teilweise auf die vertikale Integration klinischer Aspekte zur&#252;ckgef&#252;hrt werden, was durch die Freitexte verdeutlicht wird. Dass sich vertikale Integration positiv auf Motivation und ein tieferes Verst&#228;ndnis auswirken k&#246;nnen, wurde durch Studien belegt <TextLink reference="23"></TextLink>, <TextLink reference="24"></TextLink>. Eine Sensibilisierung der beteiligten Lehrpersonen, die durch die Weiterentwicklung des Seminars unbewusst angesto&#223;en worden sein k&#246;nnte, k&#246;nnte ebenfalls Effekte auf die Evaluationsergebnisse gehabt haben, besonders im Bereich &#8222;Lehrengagement&#8220;. Anhand der vorliegenden Daten l&#228;sst sich der jeweilige Anteil dieser Effekte (vertikale Integration oder Sensibilisierung) nicht kl&#228;ren. Dies gilt auch f&#252;r die Verbesserung der Gesamtbewertung, die jedoch den ersten Teilschritt insgesamt positiv erscheinen l&#228;sst.</Pgraph><SubHeadline2>4.3 Zweiter Teilschritt (SS 2015 und 2016)</SubHeadline2><Pgraph>Die eher gering ausfallende Verbesserung im Bereich &#8222;Organisation, Struktur, Aufbau&#8220; kann darauf zur&#252;ckgef&#252;hrt werden, dass die Evaluationsfragen der Skala weniger auf eine Verortung des Seminars im Curriculum als mehr auf die organisatorischen Aspekte innerhalb der LV abzielen (siehe Tabelle 1 <ImgLink imgNo="1" imgType="table"/>). Innerhalb der Freitexte trat Kritik bzgl. einer ung&#252;nstigen Verortung nur noch vereinzelt auf, so dass wir diesen Punkt nicht mehr &#228;nderten. Die Gesamtbewertung, die Abnahme des Handlungsbedarfs sowie des Anteils kritischer Freitexte zeigen eine positive Entwicklung.</Pgraph><SubHeadline2>4.4 Dritter Teilschritt (SS 2017)</SubHeadline2><Pgraph>Mit Einf&#252;hrung der ICM und der damit einhergehenden strukturellen Ver&#228;nderung innerhalb der LV verbesserte sich die Evaluation im Bereich &#8222;Organisation, Struktur, Aufbau&#8220; nochmals deutlich. Dies steht im Einklang mit anderen Studien, die ebenfalls eine positive studentische Wahrnehmung des organisatorischen Aufbaus der ICM beobachten <TextLink reference="13"></TextLink>, <TextLink reference="25"></TextLink>.</Pgraph><Pgraph>Durch die ICM konnte ein Gro&#223;teil des noch offenen Bedarfs hinsichtlich methodischer und didaktischer Aspekte adressiert werden. Die Pilotierung der ICM im SS 2016 zeigte, dass durch die ICM und die damit einhergehende Einbindung weiterer didaktischer Elemente die Relevanz der Lerninhalte verdeutlicht sowie die Motivation gesteigert werden kann <TextLink reference="10"></TextLink>. Dass sich dies auch auf den Skalen zu &#8222;Lehrengagement&#8220; und &#8222;Didaktische Umsetzung&#8220; f&#252;r die vorliegende Studie ausdr&#252;ckt, wird von den Ergebnissen der Pilotstudie gest&#252;tzt. In dieser kontrollierten Interventionsstudie wurden positive Ver&#228;nderungen bzgl. der zugrundeliegenden Evaluationsfragen dieser Skalen innerhalb derselben Kohorte, wie sie hier zwischen unterschiedlichen Kohorten f&#252;r die Skalen bestehen, belegt <TextLink reference="10"></TextLink>. Diese Beobachtungen stimmen mit Ergebnissen anderer Studien &#252;berein, die ein intensiveres Lernen sowie eine Motivationssteigerung durch die ICM beschreiben <TextLink reference="16"></TextLink>, <TextLink reference="26"></TextLink>. Da sowohl die Inhalte der LV als auch die Methode weiterentwickelt wurden, ist eine differenziertere Aussage bzgl. einzelner Effekte zu &#8222;Lehrengagement&#8220; und &#8222;Didaktische Umsetzung&#8220; nicht m&#246;glich.</Pgraph><Pgraph>Insgesamt zeigen die Verbesserung der Gesamtbewertung, der R&#252;ckgang des Handlungsbedarfs sowie die Zunahme positiver Freitexte, dass der dritte Entwicklungsschritt gelungen ist.</Pgraph><SubHeadline2>4.5 Methode der kleinen Schritte</SubHeadline2><Pgraph>Wir betrachten die Weiterentwicklung des Biochemie-Seminars in kleinen Schritten als erfolgreich, wenn auch nicht jeder Einzelschritt direkt zu einer Verbesserung f&#252;hrte wie z.B. die erste Verlegung des Seminars. Die Gr&#252;nde hierf&#252;r konnten jedoch leicht ausgemacht, im n&#228;chsten Schritt ausger&#228;umt und somit eine Verbesserung herbeigef&#252;hrt werden. Der Vorteil der Methode zeigt sich hier im kleinschrittigen Vorgehen, welches eine relativ einfache Adjustierung erm&#246;glicht. Hierdurch k&#246;nnen auch evidenzbasierte Lehrmethoden eingebunden, diese an die Bedingungen vor Ort angepasst und so positive Effekte besser genutzt werden.</Pgraph><SubHeadline2>4.6 Eignung studentischer Evaluationen</SubHeadline2><Pgraph>Studentische Evaluationen k&#246;nnen bzgl. ihrer Validit&#228;t durchaus kritisch betrachtet werden <TextLink reference="27"></TextLink>. Dennoch zeigen die hier vorgestellten Daten, dass sich kleinschrittige Weiterentwicklungen an einer LV zumindest in eingeschr&#228;nkter Weise dadurch abbilden lassen. Die ausbleibende Ver&#228;nderung zwischen dem WS 2012&#47;13 und dem SS 2013 zu &#8222;Organisation, Struktur, Aufbau&#8220; sowie die entsprechende Ver&#228;nderung zwischen dem SS 2014 und dem SS 2015 sei hier exemplarisch genannt. Es muss aber auch auf die Grenzen dieser Daten hingewiesen werden. So konnten die Ergebnisse des SS 2017 zu &#8222;Lehrengagement&#8220; und &#8222;Didaktische Umsetzung&#8220; erst im Zusammenhang mit den Ergebnissen der Pilotstudie differenzierter bewertet werden. Ebenso konnte erst der Abgleich zwischen den Ergebnissen des Pilots, der innerhalb einer Kohorte durchgef&#252;hrt wurde, mit denen der vorliegenden Studie genutzt werden, um Kohorteneffekte weitestgehend auszuschlie&#223;en. Die N&#252;tzlichkeit von Evaluationsergebnissen h&#228;ngt auch von der Differenziertheit der Abfrage ab, wie die Diskussion zum zweiten Weiterentwicklungsschritt zeigt.</Pgraph><SubHeadline2>4.7 Limitationen</SubHeadline2><Pgraph>Die vorliegende Studie konzentriert sich auf studentische Evaluationen. Inwieweit sich die Weiterentwicklungen auf die Lernleistung ausgewirkt haben, konnte hier nicht dargestellt werden. Die &#220;berpr&#252;fung des Lernerfolgs anhand von MC-Fragen innerhalb des Pilots deuten jedoch stellvertretend f&#252;r den letzten Entwicklungsschritt eine Nichtunterlegenheit an <TextLink reference="10"></TextLink>.</Pgraph><Pgraph>Die Stichprobe des WS 2012&#47;13 zeigt stellenweise eine hohe Variabilit&#228;t (siehe Abbildung 2 <ImgLink imgNo="2" imgType="figure"/>), die sich auf die Ergebnisse ausgewirkt haben k&#246;nnte. Wir f&#252;hren diese Variabilit&#228;t auf die hohe Unzufriedenheit mit der damaligen Seminarform zur&#252;ck und einer damit verbundenen Auslassung vorwiegend der Fragen zur &#8222;Didaktischen Umsetzung&#8220;.</Pgraph><Pgraph>Eine weitere Einschr&#228;nkung k&#246;nnte sich aus den Wechseln einzelner Lehrpersonen &#252;ber den Entwicklungszeitraum ergeben. Da insgesamt allerdings nur ein Achtel (12 von 96) der Gruppen hiervon betroffen war, die wechselnden Lehrpersonen vergleichbare Qualifikationen besa&#223;en und der Wechsel in mehreren unterschiedlichen Jahren und nicht aus Optimierungsgr&#252;nden vollzogen wurde, halten wir einen bedeutsamen Einfluss auf die Ergebnisse f&#252;r unwahrscheinlich. Andererseits k&#246;nnte die kontinuierliche Verbesserung der Evaluationsergebnisse trotz Personalwechsel auch zu Gunsten einer Dozierenden-unabh&#228;ngigen Weiterentwicklung des Seminars interpretiert werden.</Pgraph></TextBlock>
    <TextBlock language="en" linked="yes" name="5. Conclusion">
      <MainHeadline>5. Conclusion</MainHeadline><Pgraph>In summary, the present study shows how a course can be continuously developed in small steps to the benefit of the students. It is thereby noteworthy that each optimization of the various aspects of a course, such as structural, content- and teaching-related, and methodological characteristics, can help to improve student satisfaction. Thus, different approaches can be used, depending on the local conditions.</Pgraph><Pgraph>Not every change has to result in a significant improvement. Nevertheless, the experiences and student evaluations can be used for further optimizations and thus small steps can together lead to significant improvements. This approach is particularly suitable when little time or few resources are available to implement major innovations. In this way, necessary and required developments, such as those of the MM2020, can be addressed in an evidence-based approach and medical students can thus be better prepared for the clinical phase of their education and future demands.</Pgraph></TextBlock>
    <TextBlock language="de" linked="yes" name="5. Schlussfolgerung">
      <MainHeadline>5. Schlussfolgerung</MainHeadline><Pgraph>Zusammenfassend zeigt die vorliegende Studie, wie eine LV kontinuierlich in kleinen Schritten f&#252;r die Studierenden lohnenswert weiterentwickelt werden kann. Bemerkenswert dabei ist, dass die Weiterentwicklung der unterschiedlichen Aspekte wie struktureller, inhaltlich-didaktischer und methodischer Merkmale jeweils f&#252;r sich dazu beitragen k&#246;nnen, die Zufriedenheit der Studierenden zu erh&#246;hen. Zur LV Entwicklung bieten sich so, je nach M&#246;glichkeiten vor Ort, unterschiedliche Herangehensweisen an.</Pgraph><Pgraph>Nicht jede Ver&#228;nderung muss zu einer bedeutsamen Verbesserung f&#252;hren. Dennoch k&#246;nnen die Erfahrungen und studentische Evaluationen f&#252;r Weiterentwicklungen genutzt werden und so kontinuierlich kleine Schritte in der Summe zu bedeutsamen Verbesserungen f&#252;hren. Dieses Vorgehen bietet sich gerade dann an, wenn wenig Zeit oder Ressourcen zur Verf&#252;gung stehen, um gro&#223;e Innovationen umzusetzen. So k&#246;nnen erforderliche und geforderte Entwicklungen wie z.B. die des MM2020 adressiert werden, dabei evidenzbasiert vorgegangen und so Studierende besser auf den klinischen Studienabschnitt sowie auf die zuk&#252;nftigen Anforderungen vorbereitet werden.</Pgraph></TextBlock>
    <TextBlock language="en" linked="yes" name="Acknowledgement">
      <MainHeadline>Acknowledgement</MainHeadline><Pgraph>We would like to thank the Dean of Studies of the Faculty of Medicine of the University of Ulm and the lecturers and students of the seminar.</Pgraph></TextBlock>
    <TextBlock language="de" linked="yes" name="Danksagung">
      <MainHeadline>Danksagung</MainHeadline><Pgraph>Bedanken m&#246;chten wir uns beim Studiendekanat der Medizinischen Fakult&#228;t der Universit&#228;t Ulm sowie bei den Dozierenden und Studierenden des Seminars.</Pgraph></TextBlock>
    <TextBlock language="en" linked="yes" name="Competing interests">
      <MainHeadline>Competing interests</MainHeadline><Pgraph>The authors declare that they have no competing interests. </Pgraph></TextBlock>
    <TextBlock language="de" linked="yes" name="Interessenkonflikt">
      <MainHeadline>Interessenkonflikt</MainHeadline><Pgraph>Die Autoren erkl&#228;ren, dass sie keine Interessenkonflikte im Zusammenhang mit diesem Artikel haben.</Pgraph></TextBlock>
    <References linked="yes">
      <Reference refNo="1">
        <RefAuthor>Irby DM</RefAuthor>
        <RefAuthor>Cooke M</RefAuthor>
        <RefAuthor>O&#39;Brien BC</RefAuthor>
        <RefTitle>Calls for reform of medical education by the Carnegie Foundation for the Advancement of Teaching: 1910 and 2010</RefTitle>
        <RefYear>2010</RefYear>
        <RefJournal>Acad Med</RefJournal>
        <RefPage>220-227</RefPage>
        <RefTotal>Irby DM, Cooke M, O&#39;Brien BC. Calls for reform of medical education by the Carnegie Foundation for the Advancement of Teaching: 1910 and 2010. Acad Med. 2010;85(2):220-227. DOI: 10.1097&#47;ACM.0b013e3181c88449</RefTotal>
        <RefLink>https:&#47;&#47;doi.org&#47;10.1097&#47;ACM.0b013e3181c88449</RefLink>
      </Reference>
      <Reference refNo="2">
        <RefAuthor>Wissenschaftsrat</RefAuthor>
        <RefTitle></RefTitle>
        <RefYear>2014</RefYear>
        <RefBookTitle>Empfehlungen zur Weiterentwicklung des Medizinstudiums in Deutschland auf Grundlage einer Bestandsaufnahme der humanmedizinischen Modellstudieng&#228;nge</RefBookTitle>
        <RefPage></RefPage>
        <RefTotal>Wissenschaftsrat. Empfehlungen zur Weiterentwicklung des Medizinstudiums in Deutschland auf Grundlage einer Bestandsaufnahme der humanmedizinischen Modellstudieng&#228;nge. Dresden: Wissenschaftsrat; 2014.</RefTotal>
      </Reference>
      <Reference refNo="3">
        <RefAuthor>CDU</RefAuthor>
        <RefAuthor> CSU</RefAuthor>
        <RefAuthor> SPD</RefAuthor>
        <RefTitle></RefTitle>
        <RefYear>2013</RefYear>
        <RefBookTitle>Deutschlands Zukunft gestalten - Koalitionsvertrag zwischen CDU, CSU und SPD</RefBookTitle>
        <RefPage></RefPage>
        <RefTotal>CDU; CSU; SPD. Deutschlands Zukunft gestalten - Koalitionsvertrag zwischen CDU, CSU und SPD. Rheinbach: Union Betriebs-GmbH; 2013. Zug&#228;nglich unter&#47;available from: https:&#47;&#47;www.cdu.de&#47;sites&#47;default&#47;files&#47;media&#47;dokumente&#47;koalitionsvertrag.pdf</RefTotal>
        <RefLink>https:&#47;&#47;www.cdu.de&#47;sites&#47;default&#47;files&#47;media&#47;dokumente&#47;koalitionsvertrag.pdf</RefLink>
      </Reference>
      <Reference refNo="4">
        <RefAuthor>Bundesministerium f&#252;r Bildung und Forschung (BMBF)</RefAuthor>
        <RefTitle></RefTitle>
        <RefYear>2017</RefYear>
        <RefBookTitle>Masterplan Medizinstudium 2020</RefBookTitle>
        <RefPage></RefPage>
        <RefTotal>Bundesministerium f&#252;r Bildung und Forschung (BMBF). Masterplan Medizinstudium 2020. Beschlusstext. Berlin: Bundesministerium f&#252;r Bildung und Forschung; 2017.Zug&#228;nglich unter&#47;available from: https:&#47;&#47;www.bmbf.de&#47;files&#47;2017-03-31&#95;Masterplan&#37;20Beschlusstext.pdf</RefTotal>
        <RefLink>https:&#47;&#47;www.bmbf.de&#47;files&#47;2017-03-31&#95;Masterplan&#37;20Beschlusstext.pdf</RefLink>
      </Reference>
      <Reference refNo="5">
        <RefAuthor>Hambach J</RefAuthor>
        <RefAuthor>Czajkowski S</RefAuthor>
        <RefAuthor>Haase E</RefAuthor>
        <RefAuthor>Metternich J</RefAuthor>
        <RefAuthor>Tenberg R</RefAuthor>
        <RefTitle>Der Weg zur kontinuierlichen Verbesserung</RefTitle>
        <RefYear>2015</RefYear>
        <RefJournal>Z Wirtschaft Fabrikbetr</RefJournal>
        <RefPage>196-200</RefPage>
        <RefTotal>Hambach J, Czajkowski S, Haase E, Metternich J, Tenberg R. Der Weg zur kontinuierlichen Verbesserung. Z Wirtschaft Fabrikbetr. 2015;110(4):196-200. DOI: 10.3139&#47;104.111308</RefTotal>
        <RefLink>https:&#47;&#47;doi.org&#47;10.3139&#47;104.111308</RefLink>
      </Reference>
      <Reference refNo="6">
        <RefAuthor>Kern DE</RefAuthor>
        <RefAuthor>Thomas PA</RefAuthor>
        <RefAuthor>Hughes MT</RefAuthor>
        <RefTitle></RefTitle>
        <RefYear>2009</RefYear>
        <RefBookTitle>Curriculum development for medical education: a six-step approach</RefBookTitle>
        <RefPage></RefPage>
        <RefTotal>Kern DE, Thomas PA, Hughes MT. Curriculum development for medical education: a six-step approach. 2nd ed. Baltimore: The Johns Hopkins University Press; 2009.</RefTotal>
      </Reference>
      <Reference refNo="7">
        <RefAuthor>Moen RD</RefAuthor>
        <RefAuthor>Norman CL</RefAuthor>
        <RefTitle>Circling back</RefTitle>
        <RefYear>2010</RefYear>
        <RefJournal>Qual Prog</RefJournal>
        <RefPage>22</RefPage>
        <RefTotal>Moen RD, Norman CL. Circling back. Qual Prog. 2010;43(11):22.</RefTotal>
      </Reference>
      <Reference refNo="8">
        <RefAuthor>Harden M</RefAuthor>
        <RefAuthor>Grant J</RefAuthor>
        <RefAuthor>Buckley G</RefAuthor>
        <RefAuthor>Hart IR</RefAuthor>
        <RefTitle>BEME Guide No. 1: Best evidence medical education</RefTitle>
        <RefYear>1999</RefYear>
        <RefJournal>Med Teach</RefJournal>
        <RefPage>553-562</RefPage>
        <RefTotal>Harden M, Grant J, Buckley G, Hart IR. BEME Guide No. 1: Best evidence medical education. Med Teach. 1999;21(6):553-562. DOI: 10.1080&#47;01421599978960</RefTotal>
        <RefLink>https:&#47;&#47;doi.org&#47;10.1080&#47;01421599978960</RefLink>
      </Reference>
      <Reference refNo="9">
        <RefAuthor>Van Der Vleuten CP</RefAuthor>
        <RefAuthor>Dolmans DH</RefAuthor>
        <RefAuthor>Scherpbier AJ</RefAuthor>
        <RefTitle>The need for evidence in education</RefTitle>
        <RefYear>2000</RefYear>
        <RefJournal>Med Teach</RefJournal>
        <RefPage>246-250</RefPage>
        <RefTotal>Van Der Vleuten CP, Dolmans DH, Scherpbier AJ. The need for evidence in education. Med Teach. 2000;22(3):246-250. DOI: 10.1080&#47;01421590050006205</RefTotal>
        <RefLink>https:&#47;&#47;doi.org&#47;10.1080&#47;01421590050006205</RefLink>
      </Reference>
      <Reference refNo="10">
        <RefAuthor>K&#252;hl SJ</RefAuthor>
        <RefAuthor>Toberer M</RefAuthor>
        <RefAuthor>Keis O</RefAuthor>
        <RefAuthor>Tolks D</RefAuthor>
        <RefAuthor>Fischer MR</RefAuthor>
        <RefAuthor>K&#252;hl M</RefAuthor>
        <RefTitle>Concept and benefits of the Inverted Classroom method for a competency-based biochemistry course in the pre-clinical stage of a human medicine course of studies</RefTitle>
        <RefYear>2017</RefYear>
        <RefJournal>GMS J Med Educ</RefJournal>
        <RefPage>Doc31</RefPage>
        <RefTotal>K&#252;hl SJ, Toberer M, Keis O, Tolks D, Fischer MR, K&#252;hl M. Concept and benefits of the Inverted Classroom method for a competency-based biochemistry course in the pre-clinical stage of a human medicine course of studies. GMS J Med Educ. 2017;34(3):Doc31. DOI: 10.3205&#47;zma001108</RefTotal>
        <RefLink>https:&#47;&#47;doi.org&#47;10.3205&#47;zma001108</RefLink>
      </Reference>
      <Reference refNo="11">
        <RefAuthor>Marston R</RefAuthor>
        <RefTitle>The Robert-Wood-Johnson-Foundation Commission on Medical-Education-the Sciences of Medical-Practice, Summary Report</RefTitle>
        <RefYear>1992</RefYear>
        <RefJournal>J Am Med Assoc</RefJournal>
        <RefPage>1144-1145</RefPage>
        <RefTotal>Marston R. The Robert-Wood-Johnson-Foundation Commission on Medical-Education-the Sciences of Medical-Practice, Summary Report. J Am Med Assoc. 1992;268(9):1144-1145. DOI: 10.1001&#47;jama.1992.03490090090022</RefTotal>
        <RefLink>https:&#47;&#47;doi.org&#47;10.1001&#47;jama.1992.03490090090022</RefLink>
      </Reference>
      <Reference refNo="12">
        <RefAuthor>Cooke M</RefAuthor>
        <RefAuthor>Irby D</RefAuthor>
        <RefAuthor>O&#39;Brien B</RefAuthor>
        <RefTitle></RefTitle>
        <RefYear>2010</RefYear>
        <RefBookTitle>Carnegie Foundation for the Advancement of Teaching. Educating physicians: A Call for Reform of Medical School and Residency</RefBookTitle>
        <RefPage></RefPage>
        <RefTotal>Cooke M, Irby D, O&#39;Brien B. Carnegie Foundation for the Advancement of Teaching. Educating physicians: A Call for Reform of Medical School and Residency. Hoboken (NJ): John Wiley &#38; Sons; 2010.</RefTotal>
      </Reference>
      <Reference refNo="13">
        <RefAuthor>Lage MJ</RefAuthor>
        <RefAuthor>Platt GJ</RefAuthor>
        <RefAuthor>Treglia M</RefAuthor>
        <RefTitle>Inverting the classroom: A gateway to creating an inclusive learning environment</RefTitle>
        <RefYear>2000</RefYear>
        <RefJournal>J Econ Educ</RefJournal>
        <RefPage>30-43</RefPage>
        <RefTotal>Lage MJ, Platt GJ, Treglia M. Inverting the classroom: A gateway to creating an inclusive learning environment. J Econ Educ. 2000;31(1):30-43. DOI: 10.1080&#47;00220480009596759</RefTotal>
        <RefLink>https:&#47;&#47;doi.org&#47;10.1080&#47;00220480009596759</RefLink>
      </Reference>
      <Reference refNo="14">
        <RefAuthor>Tolks D</RefAuthor>
        <RefAuthor>Sch&#228;fer C</RefAuthor>
        <RefAuthor>Raupach T</RefAuthor>
        <RefAuthor>Kruse L</RefAuthor>
        <RefAuthor>Sarikas A</RefAuthor>
        <RefAuthor>Gerhardt-Sz&#233;p S</RefAuthor>
        <RefAuthor>Kllauer G</RefAuthor>
        <RefAuthor>Lemos M</RefAuthor>
        <RefAuthor>Fischer MR</RefAuthor>
        <RefAuthor>Eichner B</RefAuthor>
        <RefAuthor>Sostmann K</RefAuthor>
        <RefAuthor>Hege I</RefAuthor>
        <RefTitle>An introduction to the inverted&#47;flipped classroom model in education and advanced training in medicine and in the healthcare professions</RefTitle>
        <RefYear>2016</RefYear>
        <RefJournal>GMS J Med Educ</RefJournal>
        <RefPage>Doc46</RefPage>
        <RefTotal>Tolks D, Sch&#228;fer C, Raupach T, Kruse L, Sarikas A, Gerhardt-Sz&#233;p S, Kllauer G, Lemos M, Fischer MR, Eichner B, Sostmann K, Hege I. An introduction to the inverted&#47;flipped classroom model in education and advanced training in medicine and in the healthcare professions. GMS J Med Educ. 2016;33(3):Doc46. DOI: 10.3205&#47;zma001045</RefTotal>
        <RefLink>https:&#47;&#47;doi.org&#47;10.3205&#47;zma001045</RefLink>
      </Reference>
      <Reference refNo="15">
        <RefAuthor>Anderson LW</RefAuthor>
        <RefAuthor>Krathwohl DR</RefAuthor>
        <RefTitle></RefTitle>
        <RefYear>2001</RefYear>
        <RefBookTitle>A taxonomy for learning, teaching, and assessing: Arevision of Bloom&#39;s taxonomy of educational objectives</RefBookTitle>
        <RefPage></RefPage>
        <RefTotal>Anderson LW, Krathwohl DR. A taxonomy for learning, teaching, and assessing: Arevision of Bloom&#39;s taxonomy of educational objectives. NewYork: Longman; 2001.</RefTotal>
      </Reference>
      <Reference refNo="16">
        <RefAuthor>Handke J</RefAuthor>
        <RefAuthor>Sperl A</RefAuthor>
        <RefTitle></RefTitle>
        <RefYear>2012</RefYear>
        <RefBookTitle>Das Inverted Classroom Model - Begleitband zur ersten deutschen ICM Konferenz</RefBookTitle>
        <RefPage></RefPage>
        <RefTotal>Handke J, Sperl A. Das Inverted Classroom Model - Begleitband zur ersten deutschen ICM Konferenz. Oldenbourg: Oldenbourg Verlag; 2012.</RefTotal>
      </Reference>
      <Reference refNo="17">
        <RefAuthor>Aspegren K</RefAuthor>
        <RefTitle>BEME Guide No. 2: Teaching and learning communication skills in medicine-a review with quality grading of articles</RefTitle>
        <RefYear>1999</RefYear>
        <RefJournal>Med Teach</RefJournal>
        <RefPage>563-570</RefPage>
        <RefTotal>Aspegren K. BEME Guide No. 2: Teaching and learning communication skills in medicine-a review with quality grading of articles. Med Teach. 1999;21(6):563-570. DOI: 10.1080&#47;01421599978979</RefTotal>
        <RefLink>https:&#47;&#47;doi.org&#47;10.1080&#47;01421599978979</RefLink>
      </Reference>
      <Reference refNo="18">
        <RefAuthor>Kiessling C</RefAuthor>
        <RefAuthor>Dieterich A</RefAuthor>
        <RefAuthor>Fabry G</RefAuthor>
        <RefAuthor>Holzer H</RefAuthor>
        <RefAuthor>Langewitz W</RefAuthor>
        <RefAuthor>Mullinghaus M</RefAuthor>
        <RefAuthor>Pruskil S</RefAuthor>
        <RefAuthor>Scheffer S</RefAuthor>
        <RefAuthor>Schubert S</RefAuthor>
        <RefTitle>Communication and social competency in medical education in German speaking countries: the Basel consensus statement. Results of a Delphi study</RefTitle>
        <RefYear>2010</RefYear>
        <RefJournal>Patient Educ Couns</RefJournal>
        <RefPage>259-266</RefPage>
        <RefTotal>Kiessling C, Dieterich A, Fabry G, Holzer H, Langewitz W, Mullinghaus M, Pruskil S, Scheffer S, Schubert S. Communication and social competency in medical education in German speaking countries: the Basel consensus statement. Results of a Delphi study. Patient Educ Couns. 2010;81(2):259-266. DOI: 10.1016&#47;j.pec.2010.01.017</RefTotal>
        <RefLink>https:&#47;&#47;doi.org&#47;10.1016&#47;j.pec.2010.01.017</RefLink>
      </Reference>
      <Reference refNo="19">
        <RefAuthor>Bachmann C</RefAuthor>
        <RefAuthor>Abramovitch H</RefAuthor>
        <RefAuthor>Barbu CG</RefAuthor>
        <RefAuthor>Cavaco AM</RefAuthor>
        <RefAuthor>Elorza RD</RefAuthor>
        <RefAuthor>Haak R</RefAuthor>
        <RefAuthor>Loureiro E</RefAuthor>
        <RefAuthor>Ratajska A</RefAuthor>
        <RefAuthor>Silverman J</RefAuthor>
        <RefAuthor>Winterburn S</RefAuthor>
        <RefAuthor>Rosenbaum M</RefAuthor>
        <RefTitle>A European consensus on learning objectives for a core communication curriculum in health care professions</RefTitle>
        <RefYear>2013</RefYear>
        <RefJournal>Patient Educ Couns</RefJournal>
        <RefPage>18-26</RefPage>
        <RefTotal>Bachmann C, Abramovitch H, Barbu CG, Cavaco AM, Elorza RD, Haak R, Loureiro E, Ratajska A, Silverman J, Winterburn S, Rosenbaum M. A European consensus on learning objectives for a core communication curriculum in health care professions. Patient Educ Couns. 2013;93(1):18-26. DOI: 10.1016&#47;j.pec.2012.10.016</RefTotal>
        <RefLink>https:&#47;&#47;doi.org&#47;10.1016&#47;j.pec.2012.10.016</RefLink>
      </Reference>
      <Reference refNo="20">
        <RefAuthor>Chant S</RefAuthor>
        <RefAuthor>Randle J</RefAuthor>
        <RefAuthor>Russell G</RefAuthor>
        <RefAuthor>Webb C</RefAuthor>
        <RefTitle>Communication skills training in health care: a review of the literature</RefTitle>
        <RefYear>2002</RefYear>
        <RefJournal>Nurse Educ Today</RefJournal>
        <RefPage>189-202</RefPage>
        <RefTotal>Chant S, Randle J, Russell G, Webb C. Communication skills training in health care: a review of the literature. Nurse Educ Today. 2002;22(3):189-202. DOI: 10.1054&#47;nedt.2001.0690</RefTotal>
        <RefLink>https:&#47;&#47;doi.org&#47;10.1054&#47;nedt.2001.0690</RefLink>
      </Reference>
      <Reference refNo="21">
        <RefAuthor>Bachmann C</RefAuthor>
        <RefAuthor>Roschlaub S</RefAuthor>
        <RefAuthor>Harendza S</RefAuthor>
        <RefAuthor>Keim R</RefAuthor>
        <RefAuthor>Scherer M</RefAuthor>
        <RefTitle>Medical students&#39; communication skills in clinical education: Results from a cohort study</RefTitle>
        <RefYear>2017</RefYear>
        <RefJournal>Patient Educ Couns</RefJournal>
        <RefPage>1874-1881</RefPage>
        <RefTotal>Bachmann C, Roschlaub S, Harendza S, Keim R, Scherer M. Medical students&#39; communication skills in clinical education: Results from a cohort study. Patient Educ Couns. 2017;100(10):1874-1881. DOI: 10.1016&#47;j.pec.2017.05.030</RefTotal>
        <RefLink>https:&#47;&#47;doi.org&#47;10.1016&#47;j.pec.2017.05.030</RefLink>
      </Reference>
      <Reference refNo="22">
        <RefAuthor>IBM Corp</RefAuthor>
        <RefTitle></RefTitle>
        <RefYear>2017</RefYear>
        <RefBookTitle>Released 2017. IBM SPSS Statistics for Windows, Version 25 Armonk</RefBookTitle>
        <RefPage></RefPage>
        <RefTotal>IBM Corp. Released 2017. IBM SPSS Statistics for Windows, Version 25 Armonk. New York: IBM Corp; 2017.</RefTotal>
      </Reference>
      <Reference refNo="23">
        <RefAuthor>Wilkerson L</RefAuthor>
        <RefAuthor>Abelmann WH</RefAuthor>
        <RefTitle>Producing physician-scientists: a survey of graduates from the Harvard-MIT Program in Health Sciences and Technology</RefTitle>
        <RefYear>1993</RefYear>
        <RefJournal>Acad Med</RefJournal>
        <RefPage>214-218</RefPage>
        <RefTotal>Wilkerson L, Abelmann WH. Producing physician-scientists: a survey of graduates from the Harvard-MIT Program in Health Sciences and Technology. Acad Med. 1993;68(3):214-218. DOI: 10.1097&#47;00001888-199303000-00014</RefTotal>
        <RefLink>https:&#47;&#47;doi.org&#47;10.1097&#47;00001888-199303000-00014</RefLink>
      </Reference>
      <Reference refNo="24">
        <RefAuthor>Dahle LO</RefAuthor>
        <RefAuthor>Brynhildsen J</RefAuthor>
        <RefAuthor>Fallsberg MB</RefAuthor>
        <RefAuthor>Rundquist I</RefAuthor>
        <RefAuthor>Hammar M</RefAuthor>
        <RefTitle>Pros and cons of vertical integration between clinical medicine and basic science within a problem-based undergraduate medical curriculum: examples and experiences from Link&#246;ping, Sweden</RefTitle>
        <RefYear>2002</RefYear>
        <RefJournal>Med Teach</RefJournal>
        <RefPage>280-285</RefPage>
        <RefTotal>Dahle LO, Brynhildsen J, Fallsberg MB, Rundquist I, Hammar M. Pros and cons of vertical integration between clinical medicine and basic science within a problem-based undergraduate medical curriculum: examples and experiences from Link&#246;ping, Sweden. Med Teach. 2002;24(3):280-285. DOI: 10.1080&#47;01421590220134097</RefTotal>
        <RefLink>https:&#47;&#47;doi.org&#47;10.1080&#47;01421590220134097</RefLink>
      </Reference>
      <Reference refNo="25">
        <RefAuthor>Ojennus DD</RefAuthor>
        <RefTitle>Assessment of Learning Gains in a Flipped Biochemistry Classroom</RefTitle>
        <RefYear>2015</RefYear>
        <RefJournal>Biochem Molecular Biol Educ</RefJournal>
        <RefPage>20-27</RefPage>
        <RefTotal>Ojennus DD. Assessment of Learning Gains in a Flipped Biochemistry Classroom. Biochem Molecular Biol Educ. 2015;44:20-27. DOI: 10.1002&#47;bmb.20926</RefTotal>
        <RefLink>https:&#47;&#47;doi.org&#47;10.1002&#47;bmb.20926</RefLink>
      </Reference>
      <Reference refNo="26">
        <RefAuthor>McLaughlin JE</RefAuthor>
        <RefAuthor>Griffin LM</RefAuthor>
        <RefAuthor>Esserman DA</RefAuthor>
        <RefAuthor>Davidson CA</RefAuthor>
        <RefAuthor>Glatt DM</RefAuthor>
        <RefAuthor>Roth MT</RefAuthor>
        <RefAuthor>Gharkholonarehe N</RefAuthor>
        <RefAuthor>Mumper RJ</RefAuthor>
        <RefTitle>Pharmacy student engagement, performance, and perception in a flipped satellite classroom</RefTitle>
        <RefYear>2013</RefYear>
        <RefJournal>Am J Pharma Educ</RefJournal>
        <RefPage>196</RefPage>
        <RefTotal>McLaughlin JE, Griffin LM, Esserman DA, Davidson CA, Glatt DM, Roth MT, Gharkholonarehe N, Mumper RJ. Pharmacy student engagement, performance, and perception in a flipped satellite classroom. Am J Pharma Educ. 2013;77(9):196. DOI: 10.5688&#47;ajpe779196</RefTotal>
        <RefLink>https:&#47;&#47;doi.org&#47;10.5688&#47;ajpe779196</RefLink>
      </Reference>
      <Reference refNo="27">
        <RefAuthor>Hessler M</RefAuthor>
        <RefAuthor>P&#246;pping DM</RefAuthor>
        <RefAuthor>Hollstein H</RefAuthor>
        <RefAuthor>Ohlenburg H</RefAuthor>
        <RefAuthor>Arnemann PH</RefAuthor>
        <RefAuthor>Massoth C</RefAuthor>
        <RefAuthor>Seidel LM</RefAuthor>
        <RefAuthor>Zarbock A</RefAuthor>
        <RefAuthor>Wenk M</RefAuthor>
        <RefTitle>Availability of cookies during an academic course session affects evaluation of teaching</RefTitle>
        <RefYear>2018</RefYear>
        <RefJournal>Med Educ</RefJournal>
        <RefPage>1064-1072</RefPage>
        <RefTotal>Hessler M, P&#246;pping DM, Hollstein H, Ohlenburg H, Arnemann PH, Massoth C, Seidel LM, Zarbock A, Wenk M. Availability of cookies during an academic course session affects evaluation of teaching. Med Educ. 2018;52(10):1064-1072. DOI: 10.1111&#47;medu.13627</RefTotal>
        <RefLink>https:&#47;&#47;doi.org&#47;10.1111&#47;medu.13627</RefLink>
      </Reference>
    </References>
    <Media>
      <Tables>
        <Table format="png">
          <MediaNo>1</MediaNo>
          <MediaID language="en">1en</MediaID>
          <MediaID language="de">1de</MediaID>
          <Caption language="en"><Pgraph><Mark1>Table 1: Statistical parameters of each evaluation statement that make up the scales for evaluating the seminar: &#8220;Organization, structure, and implementation of the seminar,&#8221; &#8220;Commitment to teaching of the lecturers involved in the seminar,&#8221; and &#8220;Quality of teaching.&#8221; The evaluation statements were assessed on a Likert-type scale ranging from 1&#61;&#8220;does not apply at all&#8221; to 6&#61;&#8220;fully applies.&#8221; Evaluation data from the pilot project 2016 were not included in the analyses.</Mark1></Pgraph></Caption>
          <Caption language="de"><Pgraph><Mark1>Tabelle 1: statistische Kennwerte zu einzelnen Evaluationsfragen (Items), die die Skalen &#8222;Organisation, Struktur und Aufbau der Lehrveranstaltung&#8220;, &#8222;Lehrengagement der an der Lehrveranstaltung beteiligten Dozierenden&#8220; und &#8222;Didaktische Umsetzung&#8220; der Evaluation des Seminars bilden. Die Evaluationsfragen wurden anhand einer Likert-Typ Skala von 1&#61;&#8222;trifft gar nicht zu&#8220; bis 6&#61;&#8222;trifft v&#246;llig zu&#8220; bewertet. Evaluationsdaten des Pilotprojekts 2016 wurden nicht in die Analysen mit aufgenommen.</Mark1></Pgraph></Caption>
        </Table>
        <NoOfTables>1</NoOfTables>
      </Tables>
      <Figures>
        <Figure format="png" height="454" width="737">
          <MediaNo>1</MediaNo>
          <MediaID language="en">1en</MediaID>
          <MediaID language="de">1de</MediaID>
          <Caption language="en"><Pgraph><Mark1>Figure 1: Schematic presentation of the changes to the curriculum between the winter semester 2012&#47;2013 (WS 12&#47;13) and the summer semester 2017 (SS 17). The sample for the analyses comprised 1248 medical students at the University of Ulm who participated in the seminar and completed an evaluation in the period WS 2012&#47;13 to SS 2017. </Mark1></Pgraph></Caption>
          <Caption language="de"><Pgraph><Mark1>Abbildung 1: Schematische Darstellung der Curriculumsver&#228;nderungen im longitudinalen Verlauf vom Wintersemester 2012&#47;2013 (WS 12&#47;13) bis zum Sommersemester 2017 (SS 17). Die Stichprobe f&#252;r die Analysen setzt sich aus 1248 Studierenden der Humanmedizin aus Ulm zusammen, die im Zeitraum vom WS 2012&#47;13 bis SS 2017 am Seminar und an der Evaluation teilnahmen.</Mark1></Pgraph></Caption>
        </Figure>
        <Figure format="png" height="876" width="725">
          <MediaNo>2</MediaNo>
          <MediaID language="en">2en</MediaID>
          <MediaID language="de">2de</MediaID>
          <Caption language="en"><Pgraph><Mark1>Figure 2: A-C: Mean scores of the students&#8217; evaluations on the respective scale</Mark1></Pgraph><Pgraph><Mark1>A: Organization, structure, implementation of the seminar; B: Commitment to teaching of the lecturers involved in the seminar; C: Quality of teaching in the seminar; Likert-type scale ranging from 1&#61;&#8220;does not apply at all&#8221; to 6&#61;&#8220;fully applies&#8221;.</Mark1></Pgraph><Pgraph><Mark1>D: Proportion of students stating that there is no need for action regarding optimizing the seminar (in &#37;).</Mark1></Pgraph></Caption>
          <Caption language="de"><Pgraph><Mark1>Abbildung 2: Punkt A-C: Mittelwerte der studentischen Evaluation zu den Skalen</Mark1></Pgraph><Pgraph><Mark1>A: Organisation, Struktur, Aufbau der Lehrveranstaltung; B: Lehrengagement der beteiligten Dozierenden; C: Didaktische Umsetzung der Lehrveranstaltung; Likert-Typ Skala: von 1&#61;&#8222;trifft gar nicht zu&#8220; bis 6&#61;&#8222;trifft v&#246;llig zu&#8220;</Mark1></Pgraph><Pgraph><Mark1>Punkt D: studentische Angaben, dass kein Handlungsbedarf bez&#252;glich einer Optimierung der Veranstaltung besteht (in &#37;).</Mark1></Pgraph></Caption>
        </Figure>
        <Figure format="png" height="438" width="324">
          <MediaNo>3</MediaNo>
          <MediaID language="en">3en</MediaID>
          <MediaID language="de">3de</MediaID>
          <Caption language="en"><Pgraph><Mark1>Figure 3: Mean overall scores of the students&#8217; evaluation of the &#8220;Integrated Seminar&#8221; rated on a Likert-type scale ranging from 1&#61;&#8220;very good&#8221; to 6&#61;&#8220;insufficient&#8221;.</Mark1></Pgraph></Caption>
          <Caption language="de"><Pgraph><Mark1>Abbildung 3: Mittelwerte der studentischen Evaluation zur Gesamtbewertung des &#8222;Integrierten Seminars&#8220; (als Schulnote: 1&#61;&#8222;sehr gut&#8220; bis 6&#61;&#8222;ungen&#252;gend&#8220;)</Mark1></Pgraph></Caption>
        </Figure>
        <Figure format="png" height="323" width="294">
          <MediaNo>4</MediaNo>
          <MediaID language="en">4en</MediaID>
          <MediaID language="de">4de</MediaID>
          <Caption language="en"><Pgraph><Mark1>Figure 4: Frequency of positive and negative free text comments at each evaluation time point. All differences between evaluation time points are significant (p&#60;0.05 for each).</Mark1></Pgraph></Caption>
          <Caption language="de"><Pgraph><Mark1>Abbildung 4: H&#228;ufigkeit positiver und negativer Freitext-Kommentare zu den jeweiligen Messzeitpunkten. Unterschiede zwischen allen Messzeitpunkten sind signifikant (alle </Mark1><Mark1><Mark2>p</Mark2></Mark1><Mark1>&#60;0.05)</Mark1></Pgraph></Caption>
        </Figure>
        <NoOfPictures>4</NoOfPictures>
      </Figures>
      <InlineFigures>
        <NoOfPictures>0</NoOfPictures>
      </InlineFigures>
      <Attachments>
        <Attachment>
          <MediaNo>1</MediaNo>
          <MediaID filename="zma001281.a1en.pdf" language="en" mimeType="application/pdf" origFilename="Attachment&#95;1.pdf" size="85062" url="">1en</MediaID>
          <MediaID filename="zma001281.a1de.pdf" language="de" mimeType="application/pdf" origFilename="Anhang&#95;1.pdf" size="88707" url="">1de</MediaID>
          <AttachmentTitle language="en">Excerpts of critical free text (anonymized)</AttachmentTitle>
          <AttachmentTitle language="de">Freitextausz&#252;ge zur Kritik (anonymisiert)</AttachmentTitle>
        </Attachment>
        <NoOfAttachments>1</NoOfAttachments>
      </Attachments>
    </Media>
  </OrigData>
</GmsArticle>