<?xml version="1.0" encoding="iso-8859-1" standalone="no"?>
<GmsArticle xmlns:xlink="http://www.w3.org/1999/xlink">
  <MetaData>
    <Identifier>zma001036</Identifier>
    <IdentifierDoi>10.3205/zma001036</IdentifierDoi>
    <IdentifierUrn>urn:nbn:de:0183-zma0010368</IdentifierUrn>
    <ArticleType language="en">editorial</ArticleType>
    <ArticleType language="de">Leitartikel</ArticleType>
    <TitleGroup>
      <Title language="en">Collaboration, cooperation, communication, contact and competencies  </Title>
      <TitleTranslated language="de">Zusammenarbeit, Kooperation, Kommunikation, Kontakt und Kompetenzen </TitleTranslated>
    </TitleGroup>
    <CreatorList>
      <Creator>
        <PersonNames>
          <Lastname>Thistlethwaite</Lastname>
          <LastnameHeading>Thistlethwaite</LastnameHeading>
          <Firstname>Jill E.</Firstname>
          <Initials>JE</Initials>
          <AcademicTitle>Prof. Dr.</AcademicTitle>
        </PersonNames>
        <Address>University of Technology Sydney, Health professions education consultant, Adjunct professor, Sydney Australia<Affiliation>University of Technology Sydney, Health professions education consultant, Adjunct professor, Sydney Australia</Affiliation></Address>
        <Email>jill.thistlethwaite&#64;uts.edu.au</Email>
        <Creatorrole corresponding="yes" presenting="no">author</Creatorrole>
      </Creator>
    </CreatorList>
    <PublisherList>
      <Publisher>
        <Corporation>
          <Corporatename>German Medical Science GMS Publishing House</Corporatename>
        </Corporation>
        <Address>D&#252;sseldorf</Address>
      </Publisher>
    </PublisherList>
    <SubjectGroup>
      <SubjectheadingDDB>610</SubjectheadingDDB>
      <SectionHeading language="en">Interprofessional Education</SectionHeading>
      <SectionHeading language="de">Interprofessionelle Ausbildung</SectionHeading>
    </SubjectGroup>
    <DateReceived>20151223</DateReceived>
    <DateRevised>20160114</DateRevised>
    <DateAccepted>20160220</DateAccepted>
    <DatePublishedList>
      
    <DatePublished>20160429</DatePublished></DatePublishedList>
    <Language>engl</Language>
    <LanguageTranslation>germ</LanguageTranslation>
    <License license-type="open-access" xlink:href="http://creativecommons.org/licenses/by/4.0/">
      <AltText language="en">This is an Open Access article distributed under the terms of the Creative Commons Attribution 4.0 License.</AltText>
      <AltText language="de">Dieser Artikel ist ein Open-Access-Artikel und steht unter den Lizenzbedingungen der Creative Commons Attribution 4.0 License (Namensnennung).</AltText>
    </License>
    <SourceGroup>
      <Journal>
        <ISSN>2366-5017</ISSN>
        <Volume>33</Volume>
        <Issue>2</Issue>
        <JournalTitle>GMS Journal for Medical Education</JournalTitle>
        <JournalTitleAbbr>GMS J Med Educ</JournalTitleAbbr>
        <IssueTitle>Interprofessional Education</IssueTitle>
      </Journal>
    </SourceGroup>
    <ArticleNo>37</ArticleNo>
  </MetaData>
  <OrigData>
    <TextBlock language="en" linked="yes" name="Introduction">
      <MainHeadline>Introduction</MainHeadline><Pgraph>The global interprofessional education (IPE) community is expanding.  However too frequently native English speakers like myself confine ourselves to literature in English and have little awareness of what has been going on for some time in countries under-represented in the English language journals.   This deficiency has been highlighted for me not only by the richness of the papers in this special edition of the GMS Journal for Medical Education but also by my recent experiences co-editing a series of books on leadership for IPE and my travels outside Australia and the UK.  The books include chapters from Indonesia, Japan, Malaysia, India, the Philippines, Kenya and South Africa as well as the more frequently published countries such as the US, UK, Australia, New Zealand and Canada <TextLink reference="1"></TextLink>, <TextLink reference="2"></TextLink>, <TextLink reference="3"></TextLink>. </Pgraph></TextBlock>
    <TextBlock language="de" linked="yes" name="Einleitung">
      <MainHeadline>Einleitung</MainHeadline><Pgraph>Die globale wissenschaftliche Community f&#252;r interprofessionelle Ausbildung w&#228;chst. Englische Muttersprachler wie ich beschr&#228;nken sich jedoch allzu oft auf die englische Literatur und wissen nur wenig &#252;ber die Entwicklungen in L&#228;ndern, die in den englischsprachigen Zeitschriften unterrepr&#228;sentiert sind. Dieses Defizit wurde mir nicht nur durch die Vielfalt der Beitr&#228;ge in dieser Sonderausgabe des GMS Journal for Medical Education deutlich, sondern auch durch meine j&#252;ngsten Erfahrungen als Mitherausgeberin einer Buchreihe zu F&#252;hrungsrollen f&#252;r die interprofessionelle Bildung und meine Reisen au&#223;erhalb Australiens und Gro&#223;britanniens. Die verschiedenen B&#252;cher enthalten sowohl Kapitel aus Indonesien, Japan, Malaysia, Indien, den Philippinen, Kenia und S&#252;dafrika als auch aus den in der Literatur h&#228;ufiger repr&#228;sentierten L&#228;ndern wie die USA, Gro&#223;britannien, Australien, Neuseeland und Kanada <TextLink reference="1"></TextLink>, <TextLink reference="2"></TextLink>, <TextLink reference="3"></TextLink>. </Pgraph></TextBlock>
    <TextBlock language="en" linked="yes" name="Competencies">
      <MainHeadline>Competencies</MainHeadline><Pgraph>I was honoured to be asked to write the editorial for this special edition and will share some thoughts on the current state of IPE from my perspective on evaluation and what we need to do to ensure sustainability of initiatives in the future. Perhaps not surprisingly, I was struck by the similarities in focus of the German projects compared to other locations. Five c-words stood out (in their English translation): collaboration; cooperation; communication; contact; and competencies.  The first four of these can be thought of as examples of the intended outcomes of IPE and interprofessional practice (IPP) and appear frequently in the papers in this collection. The last word reflects the competency-based movement prevalent within medical and other health professions education. A number of bodies have defined the competencies they feel are required for IPP that may be developed through IPE, for example the Canadian Interprofessional Health Collaborative (CIHC) &#91;<Hyperlink href="http:&#47;&#47; www.cihc.ca&#47;files&#47;CIHC&#95;IPCompetencies&#95;Feb1210.pdf">http:&#47;&#47; www.cihc.ca&#47;files&#47;CIHC&#95;IPCompetencies&#95;Feb1210.pdf</Hyperlink>&#93;, and the Interprofessional Education Collaborative (IPEC in the US) &#91;<Hyperlink href="http:&#47;&#47; www.aacn.nche.edu&#47;education-resources&#47;ipecreport.pdf">http:&#47;&#47; www.aacn.nche.edu&#47;education-resources&#47;ipecreport.pdf</Hyperlink>&#93;.  However, there has also been criticism that competencies reduce complex activities and tasks to simple checklists that over simplify the concepts involved <TextLink reference="4"></TextLink>. The complexity of IPP and collaborative practice is reflected in the number of competencies listed in frequently referenced frameworks <TextLink reference="5"></TextLink>. This is similar to &#8216;communication&#8217; as Bachmann et al. discuss in their paper, which focuses on the translation of the Health Professions Core Communication Curriculum (HPCCC) from German into English &#8211; a curriculum that has 61 learning objectives <TextLink reference="6"></TextLink>. Higher education institutions (HEIs) that have health and social care professionals programmes and wish to introduce or expand interprofessional learning opportunities need to decide on the appropriate learning outcomes or competencies for such programmes. Educators should take into account the standards of the national accreditation bodies for each health profession at pre-certification (pre-licensure) level and use these to help define their outcomes. German HEIs may look to other countries for additional suitable examples but should base their work on the context of their own health services, health and social care professional mix and cultural imperatives. An example of the importance of context is shown in the paper by Eich-Krohm et al. In Germany nursing is not a university level programme, unlike some countries, and therefore nursing and medical students are less likely to interact during training unless specific opportunities are created for them to do so <TextLink reference="7"></TextLink>. Bohrer and colleagues describe the Berlin project and the need to take into account differing university regulations in relation to education and assessment <TextLink reference="8"></TextLink>. To be successful IPE needs to be integrated into curricula and the organization needs to be committed enough to provide resources such as space <TextLink reference="9"></TextLink>.</Pgraph></TextBlock>
    <TextBlock language="de" linked="yes" name="Kompetenzen">
      <MainHeadline>Kompetenzen</MainHeadline><Pgraph>Mir wurde die Ehre zuteil, den Leitartikel f&#252;r diese Sonderausgabe schreiben zu d&#252;rfen. Ich m&#246;chte daher einige meiner &#220;berlegungen zum aktuellen Stand der interprofessionellen Ausbildung aus meiner Sicht zur Evaluation mit den Leserinnen und Lesern teilen. Des Weiteren m&#246;chte ich ausf&#252;hren, was getan werden muss, um die Nachhaltigkeit zuk&#252;nftiger Initiativen sicherzustellen. Es ist vielleicht nicht allzu &#252;berraschend, dass mir besonders die im Vergleich mit anderen L&#228;ndern sehr &#228;hnlichen Schwerpunkte in den deutschen Projekten auffielen. Die f&#252;nf englischen C-W&#246;rter Collaboration (Zusammenarbeit), Cooperation (Kooperation), Communication (Kommunikation), Contact (Kontakt) und Competencies (Kompetenzen) werden immer wieder genannt.  Die ersten vier k&#246;nnen als Beispiele f&#252;r die angestrebten Ziele der interprofessionellen Ausbildung und interprofessionellen Praxis verstanden werden; sie kommen in den Beitr&#228;gen dieses Themenhefts h&#228;ufig vor. Das letzte &#8222;C-Wort&#8220; reflektiert hierbei die kompetenzbasierte Orientierung, die innerhalb der medizinischen und anderen gesundheitsberuflichen Bildungszweige mittlerweile dominiert. Einige Organisationen und Gremien haben die Kompetenzen definiert, die ihrer Meinung nach f&#252;r die interprofessionelle Praxis notwendig und in der interprofessionellen Ausbildung zu entwickeln sind, beispielsweise die Canadian Interprofessional Health Collaborative (CIHC) &#91;<Hyperlink href="http:&#47;&#47; www.cihc.ca&#47;files&#47;CIHC&#95;IPCompetencies&#95;Feb1210.pdf">http:&#47;&#47; www.cihc.ca&#47;files&#47;CIHC&#95;IPCompetencies&#95;Feb1210.pdf</Hyperlink>&#93;, und die Interprofessional Education Collaborative (IPEC in den USA) &#91;<Hyperlink href="http:&#47;&#47; www.aacn.nche.edu&#47;education-resources&#47;ipecreport.pdf">http:&#47;&#47; www.aacn.nche.edu&#47;education-resources&#47;ipecreport.pdf</Hyperlink>&#93;. Es wurde allerdings auch die Kritik ge&#228;u&#223;ert, dass die Kompetenzen komplexe Handlungen und Aufgaben zu einfachen Checklisten reduzieren, die die zugrunde liegenden Bildungskonzepte zu stark vereinfachen <TextLink reference="4"></TextLink>. Die Komplexit&#228;t von interprofessioneller Praxis und Zusammenarbeit spiegelt sich in der Anzahl der in h&#228;ufig zitierten Rahmenwerken aufgelisteten Kompetenzen wieder <TextLink reference="5"></TextLink>. &#196;hnliches gilt f&#252;r die &#34;Kommunikation, die Bachmann et al. in ihrem Beitrag diskutieren, der sich auf die deutsch-englische &#220;bersetzung des &#8222;Health Professions Core Communication Curriculum (HPCCC)&#8220; konzentriert &#8211; einen Lehrplan mit 61 Lernzielen <TextLink reference="6"></TextLink>. Hochschulen, die Studienprogramme f&#252;r Gesundheitsfachberufe und Soziale Berufe anbieten und interprofessionelle Bildungsm&#246;glichkeiten einf&#252;hren oder bereits bestehende erweitern m&#246;chten, m&#252;ssen die jeweils angemessenen Lernziele oder Kompetenzen f&#252;r solche Programme festlegen. Dabei sollten aus curriculumplanerischer Sicht die Standards der nationalen Akkreditierungsstellen f&#252;r jeden Gesundheitsberuf noch vor der Zertifizierung (vor der Lizensierung) bedacht und diese auch wenn m&#246;glich verwendet werden, um die Lernziele zu definieren. Deutsche Hochschulen k&#246;nnen weitere geeignete Beispiele aus anderen L&#228;ndern zurate ziehen, ihre Arbeit sollte sich jedoch auf den Kontext ihres eigenen Gesundheitswesens, der Zusammensetzung verschiedener Fachpersonen aus gesundheitlicher und sozialer F&#252;rsorge und der eigenen kulturellen Gegebenheiten st&#252;tzen. Ein Beispiel f&#252;r die Bedeutung des Kontext findet sich im Beitrag von Eich-Krohm et al. In Deutschland ist die Pflege, anders als in einigen anderen L&#228;ndern, in aller Regel kein Universit&#228;tsstudium, sodass Pflege- und Medizinstudierende w&#228;hrend ihrer Ausbildung wahrscheinlich nicht viel miteinander in Kontakt kommen, sofern keine spezifischen Gelegenheiten daf&#252;r geschaffen werden <TextLink reference="7"></TextLink>. Der Beitrag von Bohrer et al. beschreiben ein  Projekt aus Berlin und die Notwendigkeit, in Bezug auf Ausbildung und Pr&#252;fungen die unterschiedlichen universit&#228;ren Vorschriften zu beachten <TextLink reference="8"></TextLink>. Eine erfolgreiche interprofessionelle Ausbildung muss in die Lehrpl&#228;ne integriert sein und die Organisation muss engagiert genug sein, um Ressourcen (z. B.R&#228;ume) zur Verf&#252;gung zu stellen <TextLink reference="9"></TextLink>.</Pgraph></TextBlock>
    <TextBlock language="en" linked="yes" name="Assessment">
      <MainHeadline>Assessment</MainHeadline><Pgraph>Once we can agree on competencies as an outcome of our curricula then we have to consider how these may be assessed, given that the majority of students only consider an activity is important if it is examined in some way: assessment &#8220;powerfully frames how students learn and what students achieve&#8221; &#91;<Hyperlink href="http:&#47;&#47; www.assessmentfutures.com">http:&#47;&#47; www.assessmentfutures.com</Hyperlink>&#93;. I certainly agree that learners need to know what they are expected to learn. While I am concerned about &#8220;competence&#8221; as the aim of education, it is also worrying that some interprofessional learning interventions do not have defined outcomes so learners are unsure what they are expected to learn <TextLink reference="10"></TextLink>&#93;. Within IPE this learner confusion may extend to why they have been placed with other health professionals when they want to focus on gaining their own profession&#8217;s knowledge. </Pgraph><Pgraph>Sometimes IPE seems so logistically difficult and interprofessional educators so unsupported that we forget basic educational principles such as curriculum alignment <TextLink reference="11"></TextLink>. Certainly in Australia our recent survey showed that most IPE was not assessed other than by attendance &#91;<Hyperlink href="http:&#47;&#47;www.hwa.gov.au&#47;sites&#47;uploads&#47;IPE&#37;20Audit&#37;20report&#37;20Jan&#37;202013.pdf">http:&#47;&#47;www.hwa.gov.au&#47;sites&#47;uploads&#47;IPE&#37;20Audit&#37;20report&#37;20Jan&#37;202013.pdf</Hyperlink>&#93;. More in-depth assessment should be accompanied by observation and feedback so that assessment is itself a learning activity: assessment for learning rather than solely assessment of learning. Lack of assessment, once we have agreed what to assess, hampers our ability to answer that frequently asked question: &#8220;what is the evidence for IPE&#63;&#8221; This question is about effectiveness and outcomes, and may have the sub-text of &#8220;why should we change what we do&#63;&#8221; If we want to know whether IPE works, then we have to define what we mean by &#8220;works&#8221;. Proponents of the widely referenced modified Kirkpatrick model of educational outcomes <TextLink reference="12"></TextLink> suggest that we ultimately we need to show that IPE leads to improved organizational (4a) or patient outcomes (4b). This is somewhat unfair given that rarely, if at all, do we expect other pre-qualification education in the early years of training, to demonstrate a difference in how organisations function, whether patients&#8217; conditions improve or patient safety is enhanced. The Institute of Medicine in the US has suggested that what education can achieve, and what can be measured, is that learners meet learning outcomes that have been developed as applicable to optimal health care delivery that improves outcomes <TextLink reference="13"></TextLink>. Trying to show a direct causal link between one aspect of a curriculum, such as IPE, and longer term effects is, in my opinion, impossible.  What we should be able to do is evaluate whether learners have achieved those learning outcomes that we consider to be important for collaborative practice and are ready to practice in this way when they graduate. This assumes we have a clear idea, through research, of what those learning outcomes actually should be. So learning affects practice and practice affects outcomes.  As with all pre-certification education we have to remember that learning does not stop on graduation and skills are developed throughout one&#8217;s practice through experience, feedback and reflection.</Pgraph></TextBlock>
    <TextBlock language="de" linked="yes" name="Bewertung">
      <MainHeadline>Bewertung</MainHeadline><Pgraph>Ausgehend von der Grund&#252;berlegung, dass Kompetenzen ein Resultat unserer Curricula darstellen, gilt es zu bedenken, wie diese bewertet werden k&#246;nnen, da die Mehrzahl der Studierenden Aktivit&#228;ten nur dann als wichtig erachten, wenn sie auf irgendeine Weise gepr&#252;ft werden: die Bewertung &#8222;gestaltet auf beeindruckende Weise, wie Studenten lernen und was sie erreichen&#8220; (&#8222;powerfully frames how students learn and what students achieve&#8220;) &#91;<Hyperlink href="http:&#47;&#47; www.assessmentfutures.com">http:&#47;&#47; www.assessmentfutures.com</Hyperlink>&#93;. Ich stimme nat&#252;rlich zu, dass die Lernenden wissen m&#252;ssen, welche Lernziele sie erreichen sollen. W&#228;hrend mich grunds&#228;tzlich die  Sicht von &#8222;Kompetenz&#8220; als Bildungsziel nachdenklich macht, erscheint es beunruhigend, dass einige interprofessionelle curriculare Interventionen keine klaren Lernziele definieren, sodass die Studierenden sich nicht sicher sein k&#246;nnen, welche Lernerfolge von ihnen erwartet werden <TextLink reference="10"></TextLink>. Innerhalb der interprofessionellen Ausbildung kann sich diese Unsicherheit der Studierrenden auch auf die Frage ausdehnen, warum sie innerhalb ihres Studiengangs mit anderen Gesundheitsfachberufen zusammen  lernen, wenn sie sich doch auf das Wissen ihrer eigenen Fachrichtung konzentrieren m&#246;chten. </Pgraph><Pgraph>Manchmal erscheint interprofessionelle Ausbildung logistisch so schwierig und die interprofessionellen Dozierenden und Curriculumplanerinnen und - planer scheinen so wenig Unterst&#252;tzung zu erhalten, dass wir grundlegende didaktische Prinzipien wie &#8222;curriculum alignment&#8220; vergessen <TextLink reference="11"></TextLink>. Unsere aktuelle Umfrage in Australien hat jedenfalls gezeigt, dass die meisten interprofessionellen Ausbildungsprojekte ausschlie&#223;lich &#252;ber die Anwesenheit der Studierenden bewertet werden &#91;<Hyperlink href="http:&#47;&#47;www.hwa.gov.au&#47;sites&#47;uploads&#47;IPE&#37;20Audit&#37;20report&#37;20Jan&#37;202013.pdf">http:&#47;&#47;www.hwa.gov.au&#47;sites&#47;uploads&#47;IPE&#37;20Audit&#37;20report&#37;20Jan&#37;202013.pdf</Hyperlink>&#93;. Eine detaillierteres Assessment sollte durch Beobachtungen und Feedback begleitet werden, sodass die Pr&#252;fung selbst eine Lernaktivit&#228;t darstellt: die Bewertung erfolgt zum Lernen, nicht ausschlie&#223;lich zur Pr&#252;fung des Gelernten. Auch nach der gemeinsamen Definition davon, was zu bewerten ist, hindert uns jedoch das Fehlen von Assessment  daran, die h&#228;ufig gestellte Frage zu beantworten: &#8222;Was ist die Evidenz f&#252;r die interprofessionelle Ausbildung und deren Wirksamkeit&#63;&#8220; Bei dieser Frage geht es um Effektivit&#228;t und Resultate von interprofessioneller Ausbildung; und es schwingt die Frage mit, warum &#252;berhaupt eine &#196;nderung des bestehenden Curriculums und seiner Anteile n&#246;tig ist. Wenn wir herausfinden wollen, ob die interprofessionelle Ausbildung funktioniert und die Effekte zeigt, m&#252;ssen wir zun&#228;chst definieren, was wir unter &#8222;funktionieren&#8220; verstehen. Die Bef&#252;rworter des h&#228;ufig zitierten Kirkpatrick-Modells f&#252;r &#8222;educational outcomes&#8220; <TextLink reference="12"></TextLink> meinen, dass wir letztendlich aufzeigen m&#252;ssen, dass die interprofessionelle Ausbildung zu besseren organisationalen (4a) oder patientenbezogenen Ergebnissen f&#252;hrt (4b). Dies ist keine ganz faire Anforderung, da wir nur selten (wenn &#252;berhaupt) von anderen vorqualifizierenden Bildungsprogrammen verlangen, dass bereits fr&#252;h im Curriculum ein Unterschied in der Art und Weise nachgewiesen wird, wie Organisationen funktionieren oder ob sich die Bedingungen oder die Sicherheit f&#252;r Patienten verbessert. Das US-amerikanische Institute of Medicine schl&#228;gt vor, dass messbare Bildungsziele darstellen, dass vordefinierte Lernziele durch die Lernenden erreicht werden, wobei die Lernziele eine optimale Gesundheitsversorgung mit verbesserten Ergebnissen in der Patientenversorgung  sicher stellen sollen <TextLink reference="13"></TextLink>. Der Versuch, eine direkte kausale Verbindung zwischen einem Aspekt eines Curriculums, wie der interprofessionellen Ausbildung, und langfristigeren Effekten aufzuzeigen ist, meiner Ansicht nach, unm&#246;glich. Wir sollten stattdessen in der Lage sein, zu bewerten, ob die Lernenden diejenigen Lernziele erreicht haben, die uns f&#252;r ein gemeinschaftliches Arbeitsumfeld in der Gesundheitsversorgung wichtig, und ob die Lernenden am Ende ihrer Ausbildung die erreichten Lernziele in der Versorgungspraxis einsetzen k&#246;nnen. Dies setzt voraus, dass wir eine auf Forschungen basierende, genaue Vorstellung davon haben, was genau diese Lernziele sein sollten. Auf diese Weise kann  das Lernen die Praxis und die Praxis die Ergebnisse auf Patienten- oder Systemebene beeinflussen. Wie in jeder pr&#228;graduellen Ausbildung m&#252;ssen wir bedenken, dass das Lernen nicht mit dem Abschluss der Ausbildung aufh&#246;rt und dass F&#228;higkeiten sich im Laufe der praktischen T&#228;tigkeit mittels Erfahrung, Feedback und Reflexion weiterentwickeln.</Pgraph></TextBlock>
    <TextBlock language="en" linked="yes" name="Evaluation">
      <MainHeadline>Evaluation</MainHeadline><Pgraph>Even if the Kirkpatrick model is adopted to plan evaluation, most published evaluations of IPE are still confined to learner reaction, attitudinal change and knowledge acquisition rather than looking at performance in the learning and working spaces <TextLink reference="14"></TextLink>. Again this is not surprising given the difficulties of work-based observation and assessment. Learner satisfaction is important and necessary but not sufficient as evidence of utility. Overwhelmingly students appear to enjoy IPE and rate interprofessional experiences highly though there is great variation in the format, involvement, location and timing of IPE across programs, institutions, regions and countries.  Berger et al. from Heidelberg have evaluated a newly introduced interprofessional seminar and shown that students who learn and work interprofessionally rate the experience more positively than students who are in uniprofessional groups <TextLink reference="15"></TextLink>. Flentje et al. evaluated an interprofessional simulation exercise; participants self-reported that they had been able to improve their teamwork competencies particularly in relation to communication <TextLink reference="16"></TextLink>. The University of Greifswald Medical School has also introduced a simulation exercise focused on a clinical emergency for medical and nursing students, and other relevant professions, which participants rated highly <TextLink reference="17"></TextLink>. Meanwhile in Mannheim, medical and physiotherapy students have been learning in teams, with some difference of opinion between the two groups as to the outcomes <TextLink reference="18"></TextLink>. As medical students and physiotherapy students have common competencies in rheumatic and musculoskeletal diseases these have formed the basis for successful implementation of interprofessional learning for these two groups <TextLink reference="19"></TextLink>.</Pgraph><Pgraph>With regards to attitudes, the commonly used tools, such as <Mark2>RIPLS</Mark2> (readiness for interprofessional learning scale) <TextLink reference="20"></TextLink> and IEPS (interdisciplinary education perception scale) <TextLink reference="21"></TextLink> have rarely shown change in more recent publications when applied before and after an intervention. Students start with positive attitudes, either because they have volunteered for elective interprofessional experiences or because IPE is now a more acceptable curricular inclusion.  </Pgraph><Pgraph>We may and should be critical of an approach that focuses solely on outcomes. Calls to evaluate and research IPE and IPP within theoretical frameworks <TextLink reference="22"></TextLink>, <TextLink reference="23"></TextLink> to enhance scholarship and provide context highlight the need to explore the nature of IPE and IPP and the interactions between them. So far only a minority of evaluation studies have made specific reference to theories informing their approach, although adult learning theory continues to be frequently implicit (as noted ten years ago by Barr et al., 2005 <TextLink reference="24"></TextLink>). When theories are invoked they are drawn from a diversity of disciplines including education, psychology and, particularly, sociology <TextLink reference="25"></TextLink>. For example Hean et al. have foregrounded socio-cultural theory with its focus on the social aspect of learning (&#8216;with, from and about) in their recommendations of theories relevant for IPE <TextLink reference="26"></TextLink>. In this journal, with another focus on communication, Posenau and Peters draw on linguistics to analyse professional markers through a qualitative approach to the conversations that take place during interprofessional simulation activities <TextLink reference="27"></TextLink>.</Pgraph></TextBlock>
    <TextBlock language="de" linked="yes" name="Evaluation">
      <MainHeadline>Evaluation</MainHeadline><Pgraph>Auch wenn das Kirkpatrick-Modell f&#252;r die Planung der Evaluation angewendet wird,  befassen sich die meisten publizierten Evaluationsstudien von interprofessioneller Ausbildung nach wie vor mit der Reaktion der Lernenden, der &#196;nderung von Haltungen und dem Wissenserwerb und in aller Regel nicht mit der Leistung im Lern- und Arbeitsumfeld <TextLink reference="14"></TextLink>. Auch dies ist nicht &#252;berraschend, wenn man die Schwierigkeiten der arbeitsplatz-basierten Beobachtung und Pr&#252;fung bedenkt. Die Zufriedenheit der Lernenden ist zweifelsohne wichtig und notwendig, als Nachweis f&#252;r den Nutzen jedoch nicht ausreichend. Der grossen Mehrheit der Studierenden scheint die interprofessionelle Ausbildung zu gefallen; sie bewerten die interprofessionellen Erfahrungen positiv, wobei zwischen den verschiedenen Programmen, Instituten, Regionen und L&#228;ndern gro&#223;e Unterschiede in Format, Einbindung, Ort und zeitlicher Planung der interprofessionellen Ausbildung bestehen. Berger et al. aus Heidelberg haben ein neu eingef&#252;hrtes interprofessionelles Seminar bewertet und dabei zeigen k&#246;nnen, dass die Studierenden, die interprofessionell lernen und arbeiten die Erfahrung positiver bewerten als Studierende die in uniprofessionellen Gruppen lernen <TextLink reference="15"></TextLink>. Flentje et al. bewerteten eine interprofessionellen Simulations&#252;bung: Die Teilnehmenden selbst gaben an, dass sie ihre F&#228;higkeiten zur Zusammenarbeit besonders bez&#252;glich der Kommunikation verbessern konnten <TextLink reference="16"></TextLink>. Die Universit&#228;tsmedizin Greifswald hat ebenfalls eine Simulations&#252;bung eingef&#252;hrt, die sich auf klinische Notfallsituationen bezieht und f&#252;r Medizin- und Pflegestudierende, sowie weitere Gesundheitsfachberufe vorgesehen ist.  Die Simulation wurde von den Teilnehmenden sehr gut bewertet <TextLink reference="17"></TextLink>. In Mannheim lernen derweil die Studierenden der Medizin und der Physiotherapie in gemeinsamen Teams, wobei sich die Meinungen zu den Resultaten zwischen den beiden Gruppen etwas unterscheiden <TextLink reference="18"></TextLink>. Da Medizin- und Physiotherapiestudierende gemeinsame Kompetenzen im Bereich der rheumatischen und muskuloskelettalen Erkrankungen haben, haben diese die Grundlage f&#252;r die erfolgreiche Einf&#252;hrung eines interprofessionellen Lernprozesses f&#252;r diese zwei Gruppen gebildet <TextLink reference="19"></TextLink>.</Pgraph><Pgraph>Bez&#252;glich der Lernzieldom&#228;ne Haltungen und Einstellungen haben die h&#228;ufig verwendeten Instrumente wie <Mark2>RIPLS</Mark2> (&#8222;Readiness for Interprofessional Learning Scale&#8220;) <TextLink reference="20"></TextLink> und IEPS (&#8222;Interdisciplinary Education Perception Scale&#8220;) <TextLink reference="21"></TextLink> innerhalb von neueren Publikationen nur selten eine Ver&#228;nderung nachgewiesen, wenn sie vor und nach den curricularen Interventionen angewandt wurden. Zu Beginn sind die Studierenden positiv gestimmt, weil sie sich entweder freiwillig f&#252;r fakultative interprofessionelle Erfahrungen gemeldet haben oder weil die interprofessionelle Ausbildung inzwischen ein allgemein anerkannterer Teil des Curriculums ist. </Pgraph><Pgraph>Ausschlie&#223;lich auf Ergebnisse gerichtete Herangehensweisen d&#252;rfen und sollten wir durchaus kritisch betrachten. Ans&#228;tze, die interprofessionelle Ausbildung und interprofessionelle Praxis im Rahmen theoretischer Konzepte zu bewerten <TextLink reference="22"></TextLink>, <TextLink reference="23"></TextLink> um so die wissenschaftliche Basis zu erweitern und einen Kontext herzustellen, betonen die Notwendigkeit, das Wesen der interprofessionellen Ausbildung und Praxis und deren Interaktionen zu erforschen. Bis heute haben allerdings nur wenige der Evaluationsstudien spezifische Theorien zitiert, die den jeweiligen Ansatz verdeutlichen, wobei die Theorie der Erwachsenenbildung nach wie vor h&#228;ufig implizit eingebunden ist (wie Barr et al. bereits 2005 feststellen <TextLink reference="24"></TextLink>). Wenn Bez&#252;ge zu Theorien hergestellt werden, stammen diese aus unterschiedlichen Disziplinen, wie z. B. der P&#228;dagogik, Psychologie und besonders der Soziologie <TextLink reference="25"></TextLink>. Hean et al. haben beispielsweise die soziokulturelle Theorie mit ihrem Schwerpunkt auf den sozialen Aspekt des Lernens (mit, von und &#252;ber) in ihren Empfehlungen zu f&#252;r die interprofessionelle Ausbildung relevanten Theorien in den Vordergrund gestellt <TextLink reference="26"></TextLink>. Posenau und Peters konzentrieren sich in ihrem Beitrag im vorliegenden Themenheft mit Bez&#252;gen zur Linguistik auf die Kommunikation,  um mit Hilfe eines quantitativen Ansatzes professionelle Marker in den Gespr&#228;chen zu analysieren, die im Rahmen von interprofessionellen Simulationen gef&#252;hrt werden <TextLink reference="27"></TextLink>.</Pgraph></TextBlock>
    <TextBlock language="en" linked="yes" name="Realist evaluation">
      <MainHeadline>Realist evaluation</MainHeadline><Pgraph>Evaluation of outcomes presupposes that there is a linear causality between input and output.  However the space between input and output has been referred to as the &#8220;black box&#8221; <TextLink reference="28"></TextLink> and it is seldom apparent from quantitative approaches what is going on in that box. Why do some students develop skills in teamwork and others not when the intervention has been the same&#63;  How do educators ensure that students achieve the same defined learning outcomes from clinical programmes, which offer different experiences depending on location, preceptor, length, timing and access to patients&#63;  Moreover the complexity of health professional education initiatives is such that they are rarely binary: neither &#8220;effective&#8221; or &#8220;ineffective&#8221;, and students are rarely &#8220;competent&#8221; or &#8220;not competent&#8221; to perform complex tasks, even if we can describe what competence looks like.   </Pgraph><Pgraph>A common type of paper in the interprofessional literature describes a learning activity that involves students from three to four professions interviewing a patient about the patient&#8217;s experience of living with a long term condition. Each student will have learnt a profession specific approach to &#8220;taking a history&#8221;. By observing each other&#8217;s language and questions, and then discussing the similarities and differences in approach, the objective is that students gain an understanding of each other&#8217;s roles in relation to a particular health care problem.  Suppose that prior to the activity students have a quiz on professional roles, which is repeated two weeks after the exercise.  Students are also asked to rate, before and after, their confidence in working with other professionals. Student marks indicate that 85&#37; have increased their knowledge but the other 15&#37; have not; 70&#37; rate their confidence as improved, 20&#37; as the same and 10&#37; as worsened. These figures would suggest that overall the activity has been effective as the majority has changed in a positive way.  However, we cannot know from this outcome why certain students learnt and others did not, why some feel more confident and others less confident.  We may hypothesise a number of reasons for the discrepancy: differences in student motivation or engagement; lack of preparation; variations in the patient experiences; the professional mix of the groups; facilitator variability; the method of assessment; etc.  We also know that student self-assessment of confidence is a poor measure of change and some students are better at this than others.</Pgraph><Pgraph>To explore the reasons for these outcomes we need to carry out some form of process evaluation in order to explore possible factors affecting effectiveness.  Realist evaluation is a form of process evaluation which aims to answer the question: what works, for whom, in what circumstances, in what respects, to what extent and why <TextLink reference="29"></TextLink>&#63; Such an approach is time-consuming and therefore rarely done unless funded adequately &#8211; which programme evaluation rarely is. Realist methods involve in-depth case studies and reflexive questioning about why on this occasion a particular input produced a particular outcome but on a different occasion it produced the opposite outcome <TextLink reference="30"></TextLink>. This type of evaluation was originally developed to explore complex social interventions such as health promotions campaigns for safe sex practices that depend on how different people respond to the same input to generate the anticipated outcomes <TextLink reference="31"></TextLink>.  </Pgraph><Pgraph>Realist evaluation has been advocated as a useful method in medical education because of the complexity of the interventions involved <TextLink reference="32"></TextLink>. What appears effective as an IPE programme in one institution may be disastrous in another because of contextual differences that are not always apparent or considered. For example the German context is different from some other European countries in that nursing is not a university-based program; how may this difference affect student learning&#63; </Pgraph><Pgraph>Realism is a philosophy of science situated between positivism and relativism&#47;constructivism <TextLink reference="33"></TextLink>. Realists disagree with the positivist stance on the nature of causality with its conflation of simple observations and descriptions of what happens with explanations <TextLink reference="34"></TextLink>. The realist evaluator aims to elucidate underlying causal mechanisms and how they are affected by context in bringing about outcomes: context (C) &#43; mechanism (M) &#61; outcome (O) <TextLink reference="35"></TextLink>. Here a mechanism is defined as &#8216;an underlying entity, process or structure which operates in particular contexts to generate outcomes of interest&#8217; <TextLink reference="28"></TextLink>. </Pgraph></TextBlock>
    <TextBlock language="de" linked="yes" name="Kontext-Mechanismus-gesteuerte Evaluation&#47;Realist Evaluation">
      <MainHeadline>Kontext-Mechanismus-gesteuerte Evaluation&#47;Realist Evaluation</MainHeadline><Pgraph>Die Evaluation von Resultaten geht davon aus, dass zwischen Input und Output ein kausaler Zusammenhang besteht. Der Raum zwischen Input und Output wurde als &#8222;Black Box&#8220; <TextLink reference="28"></TextLink> bezeichnet und so ist bei quantitativen Ans&#228;tzen nur selten erkennbar, was in dieser Box vorgeht. Warum entwickeln manche Studierenden die F&#228;higkeit zur Zusammenarbeit und andere nicht, obwohl die curriculare Intervention dieselbe war&#63; Wie stellen Dozierende  sicher, dass alle Studierenden am Ende von klinischen Programmen, die je nach Ort, Wahrnehmung, Dauer, zeitlicher Planung und Zugang zu Patienten verschiedene Erfahrungen hinterlassen, dieselben definierten Lernziele erreichen&#63; Dar&#252;ber hinaus sind Initiativen zur Ausbildung von Gesundheitsexperten so komplex, dass sie nur selten bin&#228;r auswertbar sind: sie sind weder &#8222;effektiv&#8220; noch &#8222;ineffektiv&#8220; und die Studierenden sind nur selten entweder &#8222;in der Lage&#8220; oder &#8222;nicht in der Lage&#8220;, komplexe Aufgaben auszuf&#252;hren, selbst, wenn wir definieren k&#246;nnen, wie diese Bef&#228;higung aussieht.  </Pgraph><Pgraph>Eine h&#228;ufige Form von Publikationen innerhalb der interprofessionellen Literatur beschreibt eine Lernaktivit&#228;t, bei der Studierende aus drei oder vier verschiedenen Berufszweigen einen Patienten zu dessen Erfahrungen mit einer lang anhaltenden Erkrankung befragen. Jede Studentin und jeder Student hat bis dahin eine berufsspezifische Herangehensweise an die Anamnese gelernt. Indem die Studierenden nun gegenseitig ihre Fragen und Sprache beobachten und die Gemeinsamkeiten und Unterschiede ihrer Herangehensweisen diskutieren, sollen die Studierenden Verst&#228;ndnis f&#252;r ihre jeweiligen Rollen in Bezug auf eine bestimmte medizinische Problemstellung entwickeln. Nehmen wir einmal an, die Studierenden h&#228;tten vor dieser &#220;bung einen Test zu beruflichen Rollen und w&#252;rden diesen Test zwei Wochen nach der &#220;bung wiederholen. Die Studierenden w&#252;rden ebenfalls gebeten, vor und nach der &#220;bung anzugeben, inwieweit sie sich zutrauen, mit anderen Gesundheitsfachberufen zusammenzuarbeiten. Die Bewertungen der Studenten w&#252;rden zeigen, dass 85&#37; ihr Wissen erweitert haben, die restlichen 15&#37; jedoch nicht; 70&#37; w&#252;rden angeben an, dass ihr Selbstvertrauen in der Zusammenarbeit mit anderen Gesundheitsfachberufen gestiegen sei, bei 20&#37; h&#228;tte sich nichts ver&#228;ndert und bei 10&#37; w&#228;re das Selbstvertrauen gesunken. Diese Zahlen w&#252;rden nahelegen, dass die Aktivit&#228;t insgesamt effektiv war, da die Mehrheit der Studierenden positive Ver&#228;nderungen angab. Wir k&#246;nnen aus diesem Ergebnis jedoch nicht ablesen, warum bestimmte Studierende etwas gelernt haben und andere nicht, warum sich manche nun mehr zutrauen und andere weniger. Wir k&#246;nnen einige Hypothesen aufstellen, wie diese Diskrepanz entstanden ist: unterschiedliche Motivation und verschiedenes Engagement der Studierenden; fehlende Vorbereitung; Unterschiede in den Patientenerfahrungen; die berufliche Zusammensetzung der Gruppen; verschiedene Dozierende; die Evaluationsmethode usw. Wir wissen au&#223;erdem, dass die Eigenbewertung des Selbstvertrauens der Studierenden eher ein schlechtes Ma&#223; f&#252;r die tats&#228;chlichen Ver&#228;nderungen ist und dass manche Studierenden sich besser selbst einsch&#228;tzen k&#246;nnen als andere.</Pgraph><Pgraph>Um die Ursachen f&#252;r dieses Ergebnisse zu begreifen,  ,m&#252;ssen wir eine Prozessevaluation vornehmen, um m&#246;gliche Faktoren identifizieren zu k&#246;nnen, die die Effektivit&#228;t beeinflussen k&#246;nnten. Die &#8222;Realist Evaluation&#8220;   ist eine Art Prozessevaluation, welche folgende Frage beantworten soll: was funktioniert f&#252;r wen, unter welchen Umst&#228;nden, inwiefern, in welchem Ausma&#223; und warum <TextLink reference="29"></TextLink>&#63; Ein solcher Ansatz ist zeitaufwendig und wird daher kaum verfolgt, sofern nicht die notwendige Finanzierung verf&#252;gbar ist, wobei Programmevaluationen selten gut finanziert werden.. Solche realistischen Methoden erfordern eingehende Fallstudien begleitet von reflexiven Fragestellungen, warum in einer bestimmten Situation ein bestimmter Input zu einem bestimmten Ergebnis f&#252;hrte, ein anderes Mal jedoch zum entgegengesetzten Ergebnis <TextLink reference="30"></TextLink>. Diese Evalutionsmethode wurde urspr&#252;nglich entwickelt, um komplexe soziale Vorg&#228;nge zu erforschen, wie zum Beispiel Kampagnen zur Bewerbung von sicheren Sexualpraktiken, die davon abh&#228;ngen, wie verschiedene Menschen auf denselben Input reagieren, um die erw&#252;nschten Ergebnisse zu erzeugen <TextLink reference="31"></TextLink>. </Pgraph><Pgraph> Die &#8222;Realist Evaluation&#8220; oder auch Kontext-Mechanismus-gesteuerte Evaluation wird als n&#252;tzliche Methode f&#252;r die medizinische Ausbildung angesehen, da auch hier komplexe Vorg&#228;nge stattfinden <TextLink reference="32"></TextLink>. In einer Institution effektiv erscheinende interprofessionelle Ausbildungsprogramme k&#246;nnen in einer anderen Einrichtung desastr&#246;s sein, da kontextuelle Unterschiede nicht immer offensichtlich sind oder beachtet werden. Der deutsche Kontext unterscheidet sich zum Beispiel von einigen europ&#228;ischen L&#228;ndern, da  wie bereits oben erw&#228;hnt die Pflege dort in aller Regel keine universit&#228;re Ausbildung ist. Es kann also hier gefragt werden, wie sich dieser Unterschied auf das Lernverhalten der Studierenden aus wirkt. </Pgraph><Pgraph>Realismus ist eine wissenschaftliche Philosophie zwischen Positivismus und Relativismus&#47;Konstruktivismus <TextLink reference="33"></TextLink>. Realisten widersprechen dem positivistischen Standpunkt von Kausalit&#228;t mit der Verschmelzung aus einfachen Beobachtungen und Beschreibungen von Geschehnissen mit Erkl&#228;rungen <TextLink reference="34"></TextLink>. Der realistische Evaluator versucht, zugrunde liegende kausale Mechanismen zu erkl&#228;ren und aufzudecken, wie die Ergebnisse durch den Kontext beeinflusst werden: Kontext (Context, C) &#43; Mechanismus (Mechanism, M) &#61; Ergebnis (Outcome, O) <TextLink reference="35"></TextLink>. Ein Mechanismus wird hierbei als &#8222;zugrunde liegende Einheit, Struktur oder zugrunde liegender Prozess &#91;definiert&#93;, der&#47;die in bestimmten Kontexten Ergebnisse von Interesse erzeugt&#8220; <TextLink reference="28"></TextLink>. </Pgraph></TextBlock>
    <TextBlock language="en" linked="yes" name="Conclusion">
      <MainHeadline>Conclusion</MainHeadline><Pgraph>If we cannot provide some explanation of what is happening in the &#8220;black box&#8221; of IPE and lack evidence of effectiveness in relation to the achievement of IPL outcomes, including collaboration, cooperation, and communication, we are going to have problems making a good case for sustaining IPE within institutions. The curricula of all health professions programmes are bulging as medical science knowledge expands, and calls are made for including new courses on, for example, professionalism, resilience and leadership. Funding for higher education is shrinking in many countries or student numbers are increased without additional resources being provided. As educators, clinical academics and interprofessional champions we need to build high quality evaluation and research into our courses.  We need to be able to provide some answers to the questions about evidence &#8211; even if the questions are not framed in quite the way we would like them to be. The papers in this collection add to the literature that is required and should be required reading for all health professional educators in Germany.  </Pgraph></TextBlock>
    <TextBlock language="de" linked="yes" name="Fazit">
      <MainHeadline>Fazit</MainHeadline><Pgraph>Wenn wir keine Erkl&#228;rung f&#252;r die Geschehnisse innerhalb der &#8222;Black Box&#8220; der interprofessionellen Ausbildung liefern k&#246;nnen und keine Evidenz f&#252;r die Effektivit&#228;t bez&#252;glich erreichter Ergebnisse innerhalb der interprofessionellen Ausbildung, einschlie&#223;lich Zusammenarbeit, Kooperation und Kommunikation generieren k&#246;nnen, wird es schwierig sein, innerhalb der Bildungsinstitutionen f&#252;r Unterst&#252;tzung f&#252;r die interprofessionelle Ausbildung zu werben. Aufgrund der st&#228;ndigen Erweiterung des medizinischen Wissens sind die Curricula in der Medizin und den Gesundheitsfachberufen in aller Regel intensiv und &#228;usserst umfassend.  Neue Lerninhalte oder Module, die beispielsweise Professionalit&#228;t, Belastbarkeit und F&#252;hrungsqualit&#228;ten vermitteln sollen, werden zus&#228;tzlich gefordert. Zudem ist die Finanzierung des Hochschulwesens in vielen L&#228;ndern r&#252;ckl&#228;ufig oder die Anzahl der Studierenden steigt, ohne dass zus&#228;tzliche Ressourcen zur Verf&#252;gung gestellt werden. Wir m&#252;ssen als didaktische Experten, klinische Wissenschaftler und Experten f&#252;r Interprofessionalit&#228;t qualitativ hochwertige Evaluationsinstrumente und &#8211; studien sowie spezifische Forschung in unsere Kurse integrieren. Wir m&#252;ssen in der Lage sein, zumindest einige der Fragen nach Evidenzen zu beantworten &#8211; auch wenn die Fragen nicht v&#246;llig in unserem Sinne formuliert sind. Die in diesem Themenheft publizierten Beitr&#228;ge tragen zur notwendigen Erweiterung der Literatur im Bereich der interprofessionellen Ausbildung bei und k&#246;nnen allen Dozierenden, Bildungsforschenden und Curriculumplanenden in Medizin und den Gesundheitsfachberufen in Deutschland zur Pflichtlekt&#252;re empfohlen werden. </Pgraph></TextBlock>
    <TextBlock language="en" linked="yes" name="Competing interests">
      <MainHeadline>Competing interests</MainHeadline><Pgraph>The author declares that she has no competing interests.</Pgraph></TextBlock>
    <TextBlock language="de" linked="yes" name="Interessenkonflikt">
      <MainHeadline>Interessenkonflikt</MainHeadline><Pgraph>Die Autorin erkl&#228;rt, dass sie keine Interessenkonflikt im Zusammenhang mit diesem Artikel hat.</Pgraph></TextBlock>
    <References linked="yes">
      <Reference refNo="1">
        <RefAuthor>Forman D</RefAuthor>
        <RefAuthor>Jones M</RefAuthor>
        <RefAuthor>Thistlethwaite J</RefAuthor>
        <RefTitle></RefTitle>
        <RefYear>2014</RefYear>
        <RefBookTitle>Leadership Development for Interprofessional Education and Collaborative Practice</RefBookTitle>
        <RefPage></RefPage>
        <RefTotal>Forman D, Jones M, Thistlethwaite J. Leadership Development for Interprofessional Education and Collaborative Practice. Basingstoke: Palgrave; 2014. DOI: 10.1057&#47;9781137363022</RefTotal>
        <RefLink>http:&#47;&#47;dx.doi.org&#47;10.1057&#47;9781137363022</RefLink>
      </Reference>
      <Reference refNo="2">
        <RefAuthor>Forman D</RefAuthor>
        <RefAuthor>Jones M</RefAuthor>
        <RefAuthor>Thistlethwaite J</RefAuthor>
        <RefTitle></RefTitle>
        <RefYear>2015</RefYear>
        <RefBookTitle>Leadership and Collaboration: Further Developments for Interprofessional Education</RefBookTitle>
        <RefPage></RefPage>
        <RefTotal>Forman D, Jones M, Thistlethwaite J. Leadership and Collaboration: Further Developments for Interprofessional Education. Basingstoke: Palgrave; 2015.</RefTotal>
      </Reference>
      <Reference refNo="3">
        <RefAuthor>Forman D</RefAuthor>
        <RefAuthor>Jones M</RefAuthor>
        <RefAuthor>Thistlethwaite J</RefAuthor>
        <RefTitle></RefTitle>
        <RefYear>2016</RefYear>
        <RefBookTitle>Leading Research and Evaluation in Interprofessional Education and Collaborative Practice</RefBookTitle>
        <RefPage></RefPage>
        <RefTotal>Forman D, Jones M, Thistlethwaite J. Leading Research and Evaluation in Interprofessional Education and Collaborative Practice. London: Palgrave Macmillan; 2016. (in press)</RefTotal>
      </Reference>
      <Reference refNo="4">
        <RefAuthor>Lurie SJ</RefAuthor>
        <RefTitle>History and practice of competency-based assessment</RefTitle>
        <RefYear>2012</RefYear>
        <RefJournal>Med Educ</RefJournal>
        <RefPage>49-57</RefPage>
        <RefTotal>Lurie SJ. History and practice of competency-based assessment. Med Educ. 2012;46(1):49-57. DOI: 10.1111&#47;j.1365-2923.2011.04142.x</RefTotal>
        <RefLink>http:&#47;&#47;dx.doi.org&#47;10.1111&#47;j.1365-2923.2011.04142.x</RefLink>
      </Reference>
      <Reference refNo="5">
        <RefAuthor>Thistlethwaite JE</RefAuthor>
        <RefAuthor>Forman D</RefAuthor>
        <RefAuthor>Matthews LR</RefAuthor>
        <RefAuthor>Rodgers GD</RefAuthor>
        <RefAuthor>Szeketee C</RefAuthor>
        <RefAuthor>Yassine T</RefAuthor>
        <RefTitle>Interprofessional education competencies and frameworks in health: A comparative analysis</RefTitle>
        <RefYear>2014</RefYear>
        <RefJournal>Acad Med</RefJournal>
        <RefPage>869-874</RefPage>
        <RefTotal>Thistlethwaite JE, Forman D, Matthews LR, Rodgers GD, Szeketee C, Yassine T. Interprofessional education competencies and frameworks in health: A comparative analysis. Acad Med. 2014;89(6):869-874. DOI: 10.1097&#47;ACM.0000000000000249</RefTotal>
        <RefLink>http:&#47;&#47;dx.doi.org&#47;10.1097&#47;ACM.0000000000000249</RefLink>
      </Reference>
      <Reference refNo="6">
        <RefAuthor>Bachmann C</RefAuthor>
        <RefAuthor>Kiessling C</RefAuthor>
        <RefAuthor>H&#228;rtl A</RefAuthor>
        <RefAuthor>Haak R</RefAuthor>
        <RefTitle>A European consensus on inter- and multi- professional training objectives in a German translation</RefTitle>
        <RefYear>2016</RefYear>
        <RefJournal>GMS J Med Educ</RefJournal>
        <RefPage>Doc23</RefPage>
        <RefTotal>Bachmann C, Kiessling C, H&#228;rtl A, Haak R. A European consensus on inter- and multi- professional training objectives in a German translation. GMS J Med Educ. 2016;33(2):Doc23. DOI: 10.3205&#47;zma001022</RefTotal>
        <RefLink>http:&#47;&#47;dx.doi.org&#47;10.3205&#47;zma001022</RefLink>
      </Reference>
      <Reference refNo="7">
        <RefAuthor>Eich-Krohm A</RefAuthor>
        <RefAuthor>Kaufmann A</RefAuthor>
        <RefAuthor>Winkler-Stuck K</RefAuthor>
        <RefAuthor>Werwick K</RefAuthor>
        <RefAuthor>Spura A</RefAuthor>
        <RefAuthor>Robra BP</RefAuthor>
        <RefTitle>First Contact: interprofessional education based on medical students&#39; experiences from their nursing internship</RefTitle>
        <RefYear>2016</RefYear>
        <RefJournal>GMS J Med Educ</RefJournal>
        <RefPage>Doc20</RefPage>
        <RefTotal>Eich-Krohm A, Kaufmann A, Winkler-Stuck K, Werwick K, Spura A, Robra BP. First Contact: interprofessional education based on medical students&#39; experiences from their nursing internship. GMS J Med Educ. 2016;33(2):Doc20. DOI: 10.3205&#47;zma001019</RefTotal>
        <RefLink>http:&#47;&#47;dx.doi.org&#47;10.3205&#47;zma001019</RefLink>
      </Reference>
      <Reference refNo="8">
        <RefAuthor>Bohrer A</RefAuthor>
        <RefAuthor>Heinze C</RefAuthor>
        <RefAuthor>H&#246;ppner H</RefAuthor>
        <RefAuthor>Behrend R</RefAuthor>
        <RefAuthor>Czakert J</RefAuthor>
        <RefAuthor>Hitzblech t</RefAuthor>
        <RefAuthor>Kaufmann I</RefAuthor>
        <RefAuthor>Maaz A</RefAuthor>
        <RefAuthor>R&#228;biger J</RefAuthor>
        <RefAuthor>Peters H</RefAuthor>
        <RefTitle>Berlin in motion: interprofessional education and learning for students in the fields of medicine, occupational therapy, physiotherapy and nursing (INTER-M-E-P-P)</RefTitle>
        <RefYear>2016</RefYear>
        <RefJournal>GMS J Med Educ</RefJournal>
        <RefPage>Doc34</RefPage>
        <RefTotal>Bohrer A, Heinze C, H&#246;ppner H, Behrend R, Czakert J, Hitzblech t, Kaufmann I, Maaz A, R&#228;biger J, Peters H. Berlin in motion: interprofessional education and learning for students in the fields of medicine, occupational therapy, physiotherapy and nursing (INTER-M-E-P-P). GMS J Med Educ. 2016;33(2):Doc34. DOI: 10.3205&#47;zma001033</RefTotal>
        <RefLink>http:&#47;&#47;dx.doi.org&#47;10.3205&#47;zma001033</RefLink>
      </Reference>
      <Reference refNo="9">
        <RefAuthor>Nowak AC</RefAuthor>
        <RefAuthor>Klimke-Jung K</RefAuthor>
        <RefAuthor>Sch&#228;fer T</RefAuthor>
        <RefAuthor>Relf K</RefAuthor>
        <RefTitle>Interprofessional relations in health care: a learning project with four learning units for students from six degree programs</RefTitle>
        <RefYear>2016</RefYear>
        <RefJournal>GMS J Med Educ</RefJournal>
        <RefPage>Doc29</RefPage>
        <RefTotal>Nowak AC, Klimke-Jung K, Sch&#228;fer T, Relf K. Interprofessional relations in health care: a learning project with four learning units for students from six degree programs. GMS J Med Educ. 2016;33(2):Doc29. DOI: 10.3205&#47;zma001028</RefTotal>
        <RefLink>http:&#47;&#47;dx.doi.org&#47;10.3205&#47;zma001028</RefLink>
      </Reference>
      <Reference refNo="10">
        <RefAuthor>Thistlethwaite J</RefAuthor>
        <RefAuthor>Moran M</RefAuthor>
        <RefAuthor> World Health Organization Study Group on Interprofessional Education and Collaborative Practice</RefAuthor>
        <RefTitle>Learning outcomes for interprofessional education (IPE): literature review and synthesis</RefTitle>
        <RefYear>2010</RefYear>
        <RefJournal>J Interprof Care</RefJournal>
        <RefPage>503-513</RefPage>
        <RefTotal>Thistlethwaite J, Moran M; World Health Organization Study Group on Interprofessional Education and Collaborative Practice. Learning outcomes for interprofessional education (IPE): literature review and synthesis. J Interprof Care. 2010;24(5):503-513. DOI: 10.3109&#47;13561820.2010.483366</RefTotal>
        <RefLink>http:&#47;&#47;dx.doi.org&#47;10.3109&#47;13561820.2010.483366</RefLink>
      </Reference>
      <Reference refNo="11">
        <RefAuthor>Biggs JB</RefAuthor>
        <RefAuthor>Tang C</RefAuthor>
        <RefTitle></RefTitle>
        <RefYear>2007</RefYear>
        <RefBookTitle>Teaching for quality learning at university: What the student does</RefBookTitle>
        <RefPage></RefPage>
        <RefTotal>Biggs JB, Tang C. Teaching for quality learning at university: What the student does. 3rd ed. Maidenhead: McGraw-Hill&#47;Society for Research in Higher Education and Open University Press; 2007.</RefTotal>
      </Reference>
      <Reference refNo="12">
        <RefAuthor>Barr H</RefAuthor>
        <RefAuthor>Freeth D</RefAuthor>
        <RefAuthor>Hammick M</RefAuthor>
        <RefAuthor>Koppel I</RefAuthor>
        <RefAuthor>Reeves S</RefAuthor>
        <RefTitle></RefTitle>
        <RefYear>2000</RefYear>
        <RefBookTitle>Evaluations for Interprofessional Education. A United Kingdom Review for Health and Social Care</RefBookTitle>
        <RefPage></RefPage>
        <RefTotal>Barr H, Freeth D, Hammick M, Koppel I, Reeves S. Evaluations for Interprofessional Education. A United Kingdom Review for Health and Social Care. London: CAIPE&#47;BERA; 2000.</RefTotal>
      </Reference>
      <Reference refNo="13">
        <RefAuthor>Institute of Medicine</RefAuthor>
        <RefTitle></RefTitle>
        <RefYear>2015</RefYear>
        <RefBookTitle>Measuring the Impact of Interprofessional Education (IPE) on Collaborative Practice and Patient Outcomes</RefBookTitle>
        <RefPage></RefPage>
        <RefTotal>Institute of Medicine. Measuring the Impact of Interprofessional Education (IPE) on Collaborative Practice and Patient Outcomes. Washington, D.C.: Institute of Medicine; 2015.</RefTotal>
      </Reference>
      <Reference refNo="14">
        <RefAuthor>Thistlethwaite J</RefAuthor>
        <RefAuthor>Kumar K</RefAuthor>
        <RefAuthor>Moran M</RefAuthor>
        <RefAuthor>Saunders R</RefAuthor>
        <RefAuthor>Carr S</RefAuthor>
        <RefTitle>An exploratory review of pre-qualification interprofessional education evaluations</RefTitle>
        <RefYear>2015</RefYear>
        <RefJournal>J Interprof Care</RefJournal>
        <RefPage>292-297</RefPage>
        <RefTotal>Thistlethwaite J, Kumar K, Moran M, Saunders R, Carr S. An exploratory review of pre-qualification interprofessional education evaluations. J Interprof Care. 2015;29(4):292-297. DOI: 10.3109&#47;13561820.2014.985292</RefTotal>
        <RefLink>http:&#47;&#47;dx.doi.org&#47;10.3109&#47;13561820.2014.985292</RefLink>
      </Reference>
      <Reference refNo="15">
        <RefAuthor>Berger S</RefAuthor>
        <RefAuthor>Mahler C</RefAuthor>
        <RefAuthor>Krug B</RefAuthor>
        <RefAuthor>Szecsenyi J</RefAuthor>
        <RefAuthor>Schultz J</RefAuthor>
        <RefTitle>Evaluation of interprofessional education: lessons learned through the development and implementation of an interprofessional seminar on team communication for undergraduate health care students in Heidelberg</RefTitle>
        <RefYear>2016</RefYear>
        <RefJournal>GMS J Med Educ</RefJournal>
        <RefPage>Doc22</RefPage>
        <RefTotal>Berger S, Mahler C, Krug B, Szecsenyi J, Schultz J. Evaluation of interprofessional education: lessons learned through the development and implementation of an interprofessional seminar on team communication for undergraduate health care students in Heidelberg. GMS J Med Educ. 2016;33(2):Doc22. DOI: 10.3205&#47;zma001021</RefTotal>
        <RefLink>http:&#47;&#47;dx.doi.org&#47;10.3205&#47;zma001021</RefLink>
      </Reference>
      <Reference refNo="16">
        <RefAuthor>Flentje M</RefAuthor>
        <RefAuthor>M&#252;ssel T</RefAuthor>
        <RefAuthor>Henzel B</RefAuthor>
        <RefAuthor>Jantzen JP</RefAuthor>
        <RefTitle>Simulating a patient&#39;s fall as a method to improve routine communication</RefTitle>
        <RefYear>2016</RefYear>
        <RefJournal>GMS J Med Educ</RefJournal>
        <RefPage>Doc19</RefPage>
        <RefTotal>Flentje M, M&#252;ssel T, Henzel B, Jantzen JP. Simulating a patient&#39;s fall as a method to improve routine communication. GMS J Med Educ. 2016;33(2):Doc19. DOI: 10.3205&#47;zma101018</RefTotal>
        <RefLink>http:&#47;&#47;dx.doi.org&#47;10.3205&#47;zma101018</RefLink>
      </Reference>
      <Reference refNo="17">
        <RefAuthor>Partecke M</RefAuthor>
        <RefAuthor>Balzer C</RefAuthor>
        <RefAuthor>Finkenzeller I</RefAuthor>
        <RefAuthor>Reppenhagen C</RefAuthor>
        <RefAuthor>Hess U</RefAuthor>
        <RefAuthor>Hahnenkamp K</RefAuthor>
        <RefAuthor>Meissner K</RefAuthor>
        <RefTitle>Interprofessional learning at the University of Greifswald Medical School: pedagogical approach and practical application of team training for medical and nursing students in the context of a medical emergency</RefTitle>
        <RefYear>2016</RefYear>
        <RefJournal>GMS J Med Educ</RefJournal>
        <RefPage>Doc32</RefPage>
        <RefTotal>Partecke M, Balzer C, Finkenzeller I, Reppenhagen C, Hess U, Hahnenkamp K, Meissner K. Interprofessional learning at the University of Greifswald Medical School: pedagogical approach and practical application of team training for medical and nursing students in the context of a medical emergency. GMS J Med Educ. 2016;33(2):Doc32. DOI: 10.3205&#47;zma001031</RefTotal>
        <RefLink>http:&#47;&#47;dx.doi.org&#47;10.3205&#47;zma001031</RefLink>
      </Reference>
      <Reference refNo="18">
        <RefAuthor>Mette M</RefAuthor>
        <RefAuthor>D&#246;lken M</RefAuthor>
        <RefAuthor>Hinrichs J</RefAuthor>
        <RefAuthor>Narciss E</RefAuthor>
        <RefAuthor>Sch&#252;ttpelz-Brauns K</RefAuthor>
        <RefAuthor>Weihrauch U</RefAuthor>
        <RefAuthor>Fritz HM</RefAuthor>
        <RefTitle>Comprehension through cooperation: medical students and students of physiotherapy learn in teams &#8211;introducing interprofessional learning at the University Medical Centre Mannheim</RefTitle>
        <RefYear>2016</RefYear>
        <RefJournal>GMS J Med Educ</RefJournal>
        <RefPage>Doc31</RefPage>
        <RefTotal>Mette M, D&#246;lken M, Hinrichs J, Narciss E, Sch&#252;ttpelz-Brauns K, Weihrauch U, Fritz HM. Comprehension through cooperation: medical students and students of physiotherapy learn in teams &#8211;introducing interprofessional learning at the University Medical Centre Mannheim. GMS J Med Educ. 2016;33(2):Doc31. DOI: 10.3205&#47;zma001032</RefTotal>
        <RefLink>http:&#47;&#47;dx.doi.org&#47;10.3205&#47;zma001032</RefLink>
      </Reference>
      <Reference refNo="19">
        <RefAuthor>Sander O</RefAuthor>
        <RefAuthor>Schmidt RA</RefAuthor>
        <RefAuthor>Rehk&#228;mper G</RefAuthor>
        <RefAuthor>L&#246;gters T</RefAuthor>
        <RefAuthor>Zilkens C</RefAuthor>
        <RefAuthor>Schneider M</RefAuthor>
        <RefTitle>Interprofessional education as part of becoming a doctor or physiotherapist in a competency-based curriculum</RefTitle>
        <RefYear>2016</RefYear>
        <RefJournal>GMS J Med Educ</RefJournal>
        <RefPage>Doc15</RefPage>
        <RefTotal>Sander O, Schmidt RA, Rehk&#228;mper G, L&#246;gters T, Zilkens C, Schneider M. Interprofessional education as part of becoming a doctor or physiotherapist in a competency-based curriculum. GMS J Med Educ. 2016;33:Doc15. DOI: 10.3205&#47;zma001014</RefTotal>
        <RefLink>http:&#47;&#47;dx.doi.org&#47;10.3205&#47;zma001014</RefLink>
      </Reference>
      <Reference refNo="20">
        <RefAuthor>Parsell G</RefAuthor>
        <RefAuthor>Bligh J</RefAuthor>
        <RefTitle>The development of a questionnaire to assess the readiness of health care students for interprofessional learning (RIPLS)</RefTitle>
        <RefYear>1999</RefYear>
        <RefJournal>Med Educ</RefJournal>
        <RefPage>95-100</RefPage>
        <RefTotal>Parsell G, Bligh J. The development of a questionnaire to assess the readiness of health care students for interprofessional learning (RIPLS). Med Educ. 1999;33(2):95-100. DOI: 10.1046&#47;j.1365-2923.1999.00298.x</RefTotal>
        <RefLink>http:&#47;&#47;dx.doi.org&#47;10.1046&#47;j.1365-2923.1999.00298.x</RefLink>
      </Reference>
      <Reference refNo="21">
        <RefAuthor>Luecht RM</RefAuthor>
        <RefAuthor>Madsen MK</RefAuthor>
        <RefAuthor>Taugher MP</RefAuthor>
        <RefAuthor>Petterson BJ</RefAuthor>
        <RefTitle>Assessing professional perceptions: design and validation of an Interdisciplinary Education Perception Scale</RefTitle>
        <RefYear>1990</RefYear>
        <RefJournal>J Allied Health</RefJournal>
        <RefPage>181-191</RefPage>
        <RefTotal>Luecht RM, Madsen MK, Taugher MP, Petterson BJ. Assessing professional perceptions: design and validation of an Interdisciplinary Education Perception Scale. J Allied Health. 1990;19(2):181-191.</RefTotal>
      </Reference>
      <Reference refNo="22">
        <RefAuthor>Hean S</RefAuthor>
        <RefAuthor>Anderson E</RefAuthor>
        <RefAuthor>Green C</RefAuthor>
        <RefAuthor>John C</RefAuthor>
        <RefAuthor>Pitt R</RefAuthor>
        <RefAuthor>O&#39;Halloran C</RefAuthor>
        <RefTitle>Reviews of theoretical frameworks: Challenges and judging the quality of theory application</RefTitle>
        <RefYear>2015</RefYear>
        <RefJournal>Med Teach</RefJournal>
        <RefPage>1-8</RefPage>
        <RefTotal>Hean S, Anderson E, Green C, John C, Pitt R, O&#39;Halloran C. Reviews of theoretical frameworks: Challenges and judging the quality of theory application. Med Teach. 2015:1-8 &#91;Epub ahead of print&#93;. DOI: 10.3109&#47;0142159X.2015.1075648</RefTotal>
        <RefLink>http:&#47;&#47;dx.doi.org&#47;10.3109&#47;0142159X.2015.1075648</RefLink>
      </Reference>
      <Reference refNo="23">
        <RefAuthor>Thistlethwaite J</RefAuthor>
        <RefAuthor> GRIN Working Group</RefAuthor>
        <RefTitle>Introducing the Global Research Interprofessional Network (GRIN)</RefTitle>
        <RefYear>2013</RefYear>
        <RefJournal>J Interprof Care</RefJournal>
        <RefPage>107-109</RefPage>
        <RefTotal>Thistlethwaite J; GRIN Working Group. Introducing the Global Research Interprofessional Network (GRIN). J Interprof Care. 2013;27(2):107-109. DOI: 10.3109&#47;13561820.2012.718814</RefTotal>
        <RefLink>http:&#47;&#47;dx.doi.org&#47;10.3109&#47;13561820.2012.718814</RefLink>
      </Reference>
      <Reference refNo="24">
        <RefAuthor>Barr H</RefAuthor>
        <RefAuthor>Koppel I</RefAuthor>
        <RefAuthor>Reeves S</RefAuthor>
        <RefAuthor>Hammick M</RefAuthor>
        <RefAuthor>Freeth D</RefAuthor>
        <RefTitle></RefTitle>
        <RefYear>2005</RefYear>
        <RefBookTitle>Effective interprofessional education: assumption, argument and evidence</RefBookTitle>
        <RefPage></RefPage>
        <RefTotal>Barr H, Koppel I, Reeves S, Hammick M, Freeth D. Effective interprofessional education: assumption, argument and evidence. London: Blackwell; 2005. DOI: 10.1002&#47;9780470776445</RefTotal>
        <RefLink>http:&#47;&#47;dx.doi.org&#47;10.1002&#47;9780470776445</RefLink>
      </Reference>
      <Reference refNo="25">
        <RefAuthor>Thistlethwaite J</RefAuthor>
        <RefTitle>Interprofessional education: a review of context, learning and the research agenda</RefTitle>
        <RefYear>2012</RefYear>
        <RefJournal>Med Educ</RefJournal>
        <RefPage>58-70</RefPage>
        <RefTotal>Thistlethwaite J. Interprofessional education: a review of context, learning and the research agenda. Med Educ. 2012;46(1):58-70. DOI: 10.1111&#47;j.1365-2923.2011.04143.x</RefTotal>
        <RefLink>http:&#47;&#47;dx.doi.org&#47;10.1111&#47;j.1365-2923.2011.04143.x</RefLink>
      </Reference>
      <Reference refNo="26">
        <RefAuthor>Hean S</RefAuthor>
        <RefAuthor>Craddock D</RefAuthor>
        <RefAuthor>O&#39;Halloran C</RefAuthor>
        <RefTitle>Learning theories and interprofessional education: a user&#39;s guide</RefTitle>
        <RefYear>2009</RefYear>
        <RefJournal>Learn Health Soc Care</RefJournal>
        <RefPage>250-262</RefPage>
        <RefTotal>Hean S, Craddock D, O&#39;Halloran C. Learning theories and interprofessional education: a user&#39;s guide. Learn Health Soc Care. 2009;8:250-262. DOI: 10.1111&#47;j.1473-6861.2009.00227.x</RefTotal>
        <RefLink>http:&#47;&#47;dx.doi.org&#47;10.1111&#47;j.1473-6861.2009.00227.x</RefLink>
      </Reference>
      <Reference refNo="27">
        <RefAuthor>Posenau A</RefAuthor>
        <RefAuthor>Peters T</RefAuthor>
        <RefTitle>Communicative positioning of one&#39;s own position in interprofessional settings</RefTitle>
        <RefYear>2016</RefYear>
        <RefJournal>GMS J Med Educ</RefJournal>
        <RefPage>Doc27</RefPage>
        <RefTotal>Posenau A, Peters T. Communicative positioning of one&#39;s own position in interprofessional settings. GMS J Med Educ. 2016;33(2):Doc27. DOI: 10.3205&#47;zma001026</RefTotal>
        <RefLink>http:&#47;&#47;dx.doi.org&#47;10.3205&#47;zma001026</RefLink>
      </Reference>
      <Reference refNo="28">
        <RefAuthor>Astbury B</RefAuthor>
        <RefAuthor>Leeuw F</RefAuthor>
        <RefTitle>Unpacking black boxes: Mechanisms and theory building in evaluation</RefTitle>
        <RefYear>2010</RefYear>
        <RefJournal>Am J Eval</RefJournal>
        <RefPage>363&#8211;381</RefPage>
        <RefTotal>Astbury B, Leeuw F. Unpacking black boxes: Mechanisms and theory building in evaluation. Am J Eval. 2010;3:363&#8211;381. DOI: 10.1177&#47;1098214010371972</RefTotal>
        <RefLink>http:&#47;&#47;dx.doi.org&#47;10.1177&#47;1098214010371972</RefLink>
      </Reference>
      <Reference refNo="29">
        <RefAuthor>Pawson R</RefAuthor>
        <RefAuthor>Tilley N</RefAuthor>
        <RefTitle></RefTitle>
        <RefYear>1997</RefYear>
        <RefBookTitle>Realistic evaluation</RefBookTitle>
        <RefPage></RefPage>
        <RefTotal>Pawson R, Tilley N. Realistic evaluation. London: Sage; 1997.</RefTotal>
      </Reference>
      <Reference refNo="30">
        <RefAuthor>Maxwell JA</RefAuthor>
        <RefTitle></RefTitle>
        <RefYear>2012</RefYear>
        <RefBookTitle>A realist approach for qualitative research</RefBookTitle>
        <RefPage></RefPage>
        <RefTotal>Maxwell JA. A realist approach for qualitative research. London: Sage; 2012.</RefTotal>
      </Reference>
      <Reference refNo="31">
        <RefAuthor>Pawson R</RefAuthor>
        <RefAuthor>Greenhalgh T</RefAuthor>
        <RefAuthor>Harvey G</RefAuthor>
        <RefAuthor>Walshe K</RefAuthor>
        <RefTitle>Realist review &#8211; a new method of systematic review designed for complex policy interventions</RefTitle>
        <RefYear>2005</RefYear>
        <RefJournal>J Health Serv Res Policy</RefJournal>
        <RefPage>21-34</RefPage>
        <RefTotal>Pawson R, Greenhalgh T, Harvey G, Walshe K. Realist review &#8211; a new method of systematic review designed for complex policy interventions. J Health Serv Res Policy. 2005;10(Suppl 1):21-34. DOI: 10.1258&#47;1355819054308530</RefTotal>
        <RefLink>http:&#47;&#47;dx.doi.org&#47;10.1258&#47;1355819054308530</RefLink>
      </Reference>
      <Reference refNo="32">
        <RefAuthor>Wong G</RefAuthor>
        <RefAuthor>Greenhalgh T</RefAuthor>
        <RefAuthor>Westhorp G</RefAuthor>
        <RefAuthor>Pawson R</RefAuthor>
        <RefTitle>Realist methods in medical education research: what are they and what can they contribute&#63;</RefTitle>
        <RefYear>2012</RefYear>
        <RefJournal>Med Educ</RefJournal>
        <RefPage>89-96</RefPage>
        <RefTotal>Wong G, Greenhalgh T, Westhorp G, Pawson R. Realist methods in medical education research: what are they and what can they contribute&#63; Med Educ. 2012;46(1):89-96. DOI: 10.1111&#47;j.1365-2923.2011.04045.x</RefTotal>
        <RefLink>http:&#47;&#47;dx.doi.org&#47;10.1111&#47;j.1365-2923.2011.04045.x</RefLink>
      </Reference>
      <Reference refNo="33">
        <RefAuthor>Elder-Vass D</RefAuthor>
        <RefTitle></RefTitle>
        <RefYear>2012</RefYear>
        <RefBookTitle>The reality of social construction</RefBookTitle>
        <RefPage></RefPage>
        <RefTotal>Elder-Vass D. The reality of social construction. Cambridge: Cambridge University Press; 2012. DOI: 10.1017&#47;CBO9781139169202</RefTotal>
        <RefLink>http:&#47;&#47;dx.doi.org&#47;10.1017&#47;CBO9781139169202</RefLink>
      </Reference>
      <Reference refNo="34">
        <RefAuthor>Thistlethwaite JE</RefAuthor>
        <RefTitle>When I say &#8230; realism</RefTitle>
        <RefYear>2015</RefYear>
        <RefJournal>Med Educ</RefJournal>
        <RefPage>459-460</RefPage>
        <RefTotal>Thistlethwaite JE. When I say &#8230; realism. Med Educ. 2015;49(5):459-460. DOI: 10.1111&#47;medu.12641</RefTotal>
        <RefLink>http:&#47;&#47;dx.doi.org&#47;10.1111&#47;medu.12641</RefLink>
      </Reference>
      <Reference refNo="35">
        <RefAuthor>Pawson R</RefAuthor>
        <RefTitle></RefTitle>
        <RefYear>2013</RefYear>
        <RefBookTitle>The science of evaluation</RefBookTitle>
        <RefPage></RefPage>
        <RefTotal>Pawson R. The science of evaluation. London: Sage; 2013.</RefTotal>
      </Reference>
    </References>
    <Media>
      <Tables>
        <NoOfTables>0</NoOfTables>
      </Tables>
      <Figures>
        <NoOfPictures>0</NoOfPictures>
      </Figures>
      <InlineFigures>
        <NoOfPictures>0</NoOfPictures>
      </InlineFigures>
      <Attachments>
        <NoOfAttachments>0</NoOfAttachments>
      </Attachments>
    </Media>
  </OrigData>
</GmsArticle>