Cover: Online Lehrbuch der Medizinischen Psychologie und Medizinischen Soziologie

Online Lehrbuch der Medizinischen Psychologie und Medizinischen Soziologie

Renate Deinzer, Olaf von dem Knesebeck (Hrsg.)


3.4.3. Qualitätssicherung wissenschaftlichen Arbeitens

 Katharina Piontek 1
Hans-Joachim Hannich 1


1 Institute for Medical Psychology, University Medicine Greifswald, Greifswald, Germany

Die Ergebnisse wissenschaftlicher Studien bilden in vielen Fällen die Grundlage für die Bewertung des Nutzens diagnostischer und therapeutischer Maßnahmen und dienen damit auch als Basis für die Entscheidungsfindung in medizinischen Behandlungssituationen. Das Abwägen für oder gegen die Durchführung einer Behandlungsmaßnahme oder die Teilnahme an einer Vorsorgeuntersuchung geschieht im Sinne der evidenzbasierten Medizin (vgl. Kapitel 3.4.4. Abschnitt 3.4.4.1.) zu großen Teilen auf der Grundlage von Daten aus wissenschaftlichen Studien. Um die Validität und den Wert wissenschaftlicher Evidenz beurteilen zu können, müssen Qualitätsstandards bei der Konzeption, Durchführung und Auswertung von Forschungsarbeiten eingehalten und die Ergebnisse transparent dargestellt werden.

3.4.3.1. Standards der Wissenschaftlichkeit

Für die Bewertung vorliegender Forschungsarbeiten, aber auch bei der Planung eigener Forschungsarbeiten, muss die Gesamtqualität des Forschungsprozesses beurteilt werden. Dabei gelten vier Standards der Wissenschaftlichkeit für die empirische Forschung [1]: Das Forschungsthema muss, erstens, unter Einbezug bestehender Publikationen in den aktuellen wissenschaftlichen Forschungskontext eingeordnet werden können und empirisch zu untersuchen sein. Zweitens muss ein auf das Forschungsthema zugeschnittener Forschungsprozess unter Anwendung etablierter wissenschaftlicher Methoden umgesetzt werden. Der Forschungsprozess muss, drittens, an den Regeln der Wissenschafts- und Forschungsethik orientiert und, viertens, vollständig dokumentiert werden. Sind die Standards der Wissenschaftlichkeit prinzipiell erfüllt, muss die wissenschaftliche Qualität der Forschungsarbeit beurteilt werden.

Entsprechend der genannten vier Standards der Wissenschaftlichkeit, lassen sich folgende Qualitätskriterien formulieren: Inhaltliche Relevanz, methodische Strenge, ethische Strenge und Präsentationsqualität [1].

Inhaltliche Relevanz: Das Forschungsthema muss sowohl von theoretischer als auch von praktischer Relevanz sein. In der Grundlagenforschung, die der Erweiterung des wissenschaftlichen Kenntnisstandes dient, bezieht sich inhaltliche Relevanz auf die wissenschaftliche Relevanz im jeweiligen Forschungsfeld. Dazu gehört das Bilden, Prüfen oder Überarbeiten wissenschaftlicher Theorien. Im Unterschied dazu bezieht sich inhaltliche Relevanz in der Anwendungsforschung, in der praxisbezogene Fragestellungen untersucht werden, vor allem auf die praktische Anwendbarkeit oder Nützlichkeit von Forschungsergebnissen. In diesem Sinne müssen aus diesen konkrete Handlungsempfehlungen ableitbar sein wie beispielsweise die Implementierung von Interventionen oder die Optimierung bestehender Maßnahmen oder Techniken [1].

Methodische Strenge: Die Konzeption einer Forschungsarbeit muss sich an etablierten wissenschaftlichen Methoden orientieren, um die methodischen Aspekte einer Studie stringent, regeltreu und ohne Verzerrungen umzusetzen und Fehler bei der Datenerhebung und -auswertung zu vermeiden [1].

Ethische Strenge: Bei der Durchführung einer Forschungsarbeit müssen sowohl forschungs- als auch wissenschaftsethische Richtlinien befolgt werden. Dabei beziehen sich forschungsethische Richtlinien auf alle Aspekte, die den Umgang mit Untersuchungsteilnehmern und Untersuchungsmaterialien bei der Datenerhebung und Datenanalyse betreffen. Dazu gehören in erster Linie der Schutz der Untersuchungsteilnehmer vor unverhältnismäßigen und unnötigen Beeinträchtigungen durch die Studienteilnahme (z.B. körperliche Risiken bei einer Blutabnahme oder der Einnahme von Medikamenten), Freiwilligkeit der Studienteilnahme und informierte Einwilligung (auf Aufklärung basierende Einwilligung, eng. informed consent) sowie datenschutzrechtliche Bestimmungen (z.B. Anonymisierung und Vertraulichkeit der Daten) zur Wahrung der Privatsphäre und Persönlichkeitsrechte der Studienteilnehmer [1].

Verschiedene wissenschaftliche Fachgesellschaften haben Richtlinien zur Einhaltung ethischer Standards entwickelt. Eine der bekanntesten Richtlinien im Bereich der biomedizinischen Forschung ist die Deklaration von Helsinki über die Ethischen Grundsätze für die medizinische Forschung am Menschen [2], die 1964 vom Weltärztebund verabschiedet wurde. Um die Einhaltung ethischer Richtlinien sicherzustellen wird zunehmend gefordert, die Durchführung einer Studie vor der Rekrutierung von Untersuchungsteilnehmern formal von einer Ethikkommission genehmigen zu lassen sowie die forschungsethischen Gesichtspunkte einer Studie in Publikationen ausführlich darzulegen. Im Gegensatz zu forschungsethischen Richtlinien kommen wissenschaftsethische Richtlinien auch bei der Analyse vorliegender Datensätze, sog. Sekundäranalysen, zur Anwendung, aber auch bei Metaanalysen oder theoretischen Übersichtsarbeiten. Zur Wissenschaftsethik gehören die Regeln guter wissenschaftlicher Praxis (siehe unten) zur Sicherung eines verantwortungsvollen Umgangs bei der Erhebung, Analyse, Interpretation und Publikation von Daten sowie Maßnahmen zum Umgang mit Verletzungen forschungsethischer Richtlinien wie Plagiarismus oder Datenfälschung.

Präsentationsqualität: Der Forschungsprozess muss umfassend dokumentiert und die einzelnen Schritte nachvollziehbar sein. Neben der Vollständigkeit, Gewichtung und Strukturierung der Darstellung von Forschungsprojekten sind Aspekte wie die Lesbarkeit des sprachlichen Stils oder die Anschaulichkeit der verwendeten Tabellen und Abbildungen von Bedeutung. Zur Vereinheitlichung der Darstellung von Forschungsarbeiten liegen verschiedene Kriterienkataloge vor, beispielsweise von Fachzeitschriften oder Fachgesellschaften, die Richtlinien zur formalen Ausgestaltung wissenschaftlicher Arbeiten explizieren (z.B. Publication Manual der American Psychiatric Association [3]).

3.4.3.2. Regeln guter wissenschaftlicher Praxis

Die ethischen Regeln guter wissenschaftlicher Praxis bilden die Grundlage für die Standardisierung und Qualitätssicherung bei der Erhebung, Auswertung, Interpretation und Veröffentlichung von Studiendaten. Diese Regeln dienen nicht nur zur Orientierung bei der Forschungstätigkeit, sondern sollen auch sog. wissenschaftliches Fehlverhalten vermeiden. Die Deutsche Forschungsgemeinschaft hat 1998 Empfehlungen zur Sicherung guter wissenschaftlicher Praxis herausgegeben [4]. Diese Empfehlungen umfassen Grundsätze für die folgenden Themen:

  • Allgemeine Prinzipien wissenschaftlicher Arbeit, z.B.
    • nach den Regeln der Wissenschaft (lat. lege artis) zu arbeiten,
    • Resultate zu dokumentieren,
    • alle Ergebnisse konsequent selbst anzuzweifeln,
    • strikte Ehrlichkeit im Hinblick auf die Beiträge von Partnern, Konkurrenten und Vorgängern zu wahren.
  • Zusammenarbeit und Leistungsverantwortung in Arbeitsgruppen,
  • die Betreuung des wissenschaftlichen Nachwuchses,
  • die Sicherung und Aufbewahrung von Primärdaten,
  • wissenschaftliche Veröffentlichungen.

Die wichtigsten Regeln guter wissenschaftlicher Praxis werden im Folgenden kurz erläutert.

Arbeiten nach den Regeln der Wissenschaft: Es soll nach den Regeln der Wissenschaft (lat. lege artis) gearbeitet werden; d.h. unter Anwendung etablierter wissenschaftlicher Methoden und auf Grundlage des aktuellen Forschungsstandes (eng. state of the art).

Kritische (Selbst-)Reflexion der Ergebnisse: Neben der Orientierung am aktuellen Forschungsstand sollen die Ergebnisse wissenschaftlicher Untersuchungen, auch der eigenen, stets kritisch hinterfragt werden. Diese kritische (Selbst-)Reflexion dient dazu, die Verbreitung fehl- oder überinterpretierter Ergebnisse zu verhindern. Eine Maßnahme zur kritischen Bewertung vorliegender Studien stellt das sog. Peer-Review-Verfahren dar (siehe unten), das vor der Veröffentlichung wissenschaftlicher Studien eingesetzt wird.

Sicherung und Aufbewahrung von Primärdaten: Um die Nachvollziehbarkeit und Überprüfbarkeit von Forschungsdaten und -ergebnissen zu gewährleisten, sollen Primärdaten unter Beachtung datenschutzrechtlicher Bestimmungen gesichert und über einen Zeitraum von mindestens zehn Jahren aufbewahrt werden.

Kenntlichmachen der wissenschaftlichen Beiträge Anderer: Bei Verwendung externer Quellen müssen diese explizit in einer korrekten Zitierweise kenntlich gemacht werden. Bzgl. des Beitrags eines Einzelnen bei einer gemeinschaftlichen Arbeit muss dieser gekennzeichnet werden und sein Umfang sich in der Stellung innerhalb der Autorenreihung widerspiegeln. Plagiarismus stellt eine Form wissenschaftlichen Fehlverhaltens bei Nichtbeachten dieser Regel dar.

Sabotage von Forschungstätigkeit: Die Sabotage von Forschungstätigkeit, wie beispielsweise das Fälschen von Daten oder das Manipulieren von Untersuchungsmaterialien, verstoßen gegen die Regeln guter wissenschaftlicher Praxis und stellen ebenfalls eine Form wissenschaftlichen Fehlverhaltens dar.

3.4.3.3. Peer-Review-Verfahren

Das Peer-Review-Verfahren (eng. Peer, „Gleichrangiger“ und   Review, „Gutachten“) stellt einen wesentlichen Bestandteil in der Wissenschaft dar, innerhalb dessen Forschungsarbeiten zum Zweck der Qualitätssicherung vor ihrer Publikation oder Förderung von unabhängigen Gutachtern kritisch evaluiert werden [5]. Diese sog. Reviewer werden in der Regel von den Herausgebern wissenschaftlicher Zeitschriften oder Förderinstitutionen ausgewählt, bei denen die Forschungsarbeit eingereicht worden ist. Damit zielt das Peer-Review zum einen auf die Selektion inhaltlich interessanter, qualitativ hochwertiger und in den Kontext einer Zeitschrift passender Publikationen, wobei die Gutachten der Entscheidungsfindung dienen, ob ein Manuskript veröffentlicht werden soll. Darüber hinaus geben die Gutachter Hinweise, wie die Qualität der Publikation verbessert werden kann. Zum anderen stellt das Peer-Review ein Entscheidungsmittel für oder gegen die Förderung von Forschungsanträgen dar und dient dazu, Gelder zu verteilen bzw. den Zugang zu immer knapper werdenden finanziellen Ressourcen für Forschungsprojekte zu steuern. Umgekehrt stellt die Anwendung des Peer-Review Verfahrens einen wichtiger Faktor bei der Einschätzung der Bedeutung einer wissenschaftlichen Zeitschrift dar. Publikationen in Zeitschriften mit Peer-Review haben aufgrund der mit der Begutachtung verbundenen Qualitätsprüfung einen besseren Ruf als Publikationen in Zeitschriften ohne Peer-Review.

Das Peer-Review-Verfahren findet u.a. in folgenden Bereichen Anwendung [5]:

  • Der Evaluation von Forschungsanträgen zur Entscheidung über ihre Förderungswürdigkeit,
  • der Evaluation von Zeitschriftenartikeln und Konferenzbeiträgen vor ihrer Veröffentlichung zur Prüfung des Einhaltens bestimmter Qualitätsstandards,
  • der Evaluation bereits veröffentlichter Forschungsarbeiten. beispielsweise in Form von Review-Artikeln.

Zu den klassischen Formen des Peer-Review gehören [6]:

  • Single-blind Review: Den Gutachtern sind die Namen der Autoren bekannt; die Autoren wissen jedoch nicht, wer die Gutachter sind.
  • Double-blind Review: Gutachter und Autoren sind sich gegenseitig unbekannt.
  • Triple-blind Review: Sowohl den Gutachtern als auch den Herausgebern einer Zeitschrift sind die Autoren unbekannt.

Neben dem Ziel, das Einhalten wissenschaftlicher und ethischer Standards zu überprüfen, dient das Peer-Review-Verfahren dazu, „schlechte“ Forschung wie Datenfälschung, Plagiate, Nicht-Deklarieren von Interessenkonflikten und andere Formen wissenschaftlichen Fehlverhaltens zu erkennen. Peer-Review bedeutet allerdings nicht, dass die wissenschaftlichen Arbeiten frei von Fehlern sind. So bestehen beispielsweise häufig Schwierigkeiten bei der Auswahl geeigneter Gutachter oder die Auswahl der Gutachter wird in eine bestimmte Richtung gelenkt, um bestimmte Ergebnisse zu erzielen. Das Ergebnis des Peer-Review-Verfahrens wird darüber hinaus durch die Sorgfalt des Reviewers oder dessen wissenschaftlicher Überzeugung beeinflusst. Reviewer liegen nicht immer richtig in ihrem Urteil. Verschiedene Gutachter kommen zu unterschiedlichen Ergebnissen oder gravierendes wissenschaftliches Fehlverhalten wie Betrug oder Plagiate werden gar nicht erst erkannt. Darüber hinaus behindern monate- oder jahrelang andauernde Review-Prozesse den wissenschaftlichen Austausch [6].

Digitale Medien tragen zur Transparenz im Peer-Review-Verfahren bei. Im Zuge der Digitalisierung haben sich neue Zugangswege zu wissenschaftlichen Publikationen ergeben, die das traditionelle Bibliotheks- und Verlagswesen zunehmend verdrängen. Als Open Access (englisch für „offener Zugang“) wird der freie Zugang zu wissenschaftlicher Literatur und anderen Materialien im Internet bezeichnet. Diese Möglichkeit trägt zum einen zur Beschleunigung des Peer-Review-Verfahrens und damit zur Reduktion des häufig kritisierten Zeitproblems bei, zum anderen werden einzelne oder alle Teilprozesse in einem Peer-Review der Öffentlichkeit zugänglich gemacht wie beispielsweise die Gutachten und die Antworten der Autoren darauf. Trotz der häufig geäußerten Kritik bei Open-Access-Zeitschriften handele es sich um minderwertige Zeitschriften, ist das Peer-Review-Verfahren in den Open-Access-Zeitschriften aller großen Verlage implementiert.

3.4.3.4. Leitlinien für Forschungsberichte (Reporting Guidelines)

Beim Verfassen von Forschungsberichten ist es ein wichtiges Ziel, die in der Studie durchgeführten Schritte zur Datengewinnung umfassend und transparent darzustellen sowie die aus den Daten gewonnenen Ergebnisse und Schlussfolgerungen nachvollziehbar zu beschreiben. Damit soll der Leser in die Lage versetzt werden, die Qualität der aus der Studie getroffenen Aussagen kritisch zu bewerten. Zur Erreichung dieses Ziels wurden verschiedene Leitlinien für Forschungsberichte (sog. Reporting Guidelines) entwickelt. Sie basieren auf Empfehlungen zum Schreiben von Forschungsarbeiten sowie auf den Anforderungen wissenschaftlicher Zeitschriften zur Manuskriptgestaltung. In ihnen wird der Suchprozess von der Theorie- und Hypothesenbildung bis hin zur Datenevaluation und -interpretation entweder in Form von Checklisten oder Flussdiagrammen abgebildet. Ihr Befolgen ermöglicht dem Forschenden eine umfassende Darstellung des wissenschaftlichen Hintergrundes seiner Studie, ihrer Methodik und Ergebnisse. Tabelle 1 gibt einen Überblick über wichtige Leitlinien für Forschungsberichte. Die Leitlinien unterscheiden sich je nach Studienziel und Studiendesign.

Tabelle 1: Übersicht wichtiger Leitlinien für Forschungsberichte [7]

CONSORT

Consolidated Standards Of Reporting Trials

STROBE

Strengthening the Reporting of Observational studies in Epidemiology

STARD

Standards for Reporting Studies of Diagnostic Accuracy

PRISMA

Preferred Reporting Items for Systematic Reviews and Meta-Analyses

SQUIRE

Standards for Quality Improvement Reporting Excellence

Das im Jahr 2008 gegründete internationale EQUATOR Network (Enhancing the QUAlity and Transparency Of Health Research) hat sich zum Ziel gesetzt, die Entwicklung, Dissemination und Implementation von Reporting Guidelines sowie die Qualität von Publikationen zu fördern [7]. Das EQUATOR Network vereint Leitlinienentwickler, Wissenschaftler, Herausgeber wissenschaftlicher Zeitschriften, Peer-Reviewer und Fördereinrichtungen und stellt auf seiner Webseite eine systematische Übersicht aller aktuellen Leitlinien sowie weitere für die Erstellung von Publikationen relevanten Materialien zur Verfügung (http://www.equator-network.org/).

Trotz aller Bemühungen um eine nachvollziehbare und transparente Berichterstattung über wissenschaftliche Studien, ist die Einhaltung der Leitlinien selbst nicht hinreichend für eine hohe Forschungsqualität. Das heißt, dass eine Studie, die gut berichtet wurde, also die Leitlinienkriterien erfüllt, methodische Mängel aufweisen und dadurch eine Fehleinschätzung der Studienergebnisse hervorrufen kann. Umgekehrt kann eine methodisch sehr gut durchgeführte Studie lückenhaft berichtet werden. Im Idealfall werden Leitlinien bereits bei der Studienplanung berücksichtigt, sodass sie zur Qualität der Studien beitragen.

3.4.3.5. Cochrane Collaboration

Einen weiteren Ansatz zur Systematisierung wissenschaftlicher Befunde stellt die Cochrane Collaboration dar, ein globales und unabhängiges Netzwerk von klinischen Forschern, Ärzten, Methodikern, Angehörigen der Gesundheitsfachberufe und Patienten. Ziel des Cochrane-Netzwerkes ist es, durch das Bereitstellen qualitativ hochwertiger, systematischer Übersichtsarbeiten eine evidenz-informierte Entscheidungsfindung zu fördern und zu einer Verbesserung der Gesundheitsversorgung beizutragen. Von der Cochrane Collaboration wird ein Datenbanksystem, die Cochrane Library, bereitgestellt. Die Cochrane Library umfasst sechs Datenbanken zu systematischen Übersichtsarbeiten, randomisierten kontrollierten Studien und zur Methodik der evidenzbasierten Medizin. Systematische Reviews sind die wichtigsten Publikationen von Cochrane und werden vollständig und elektronisch in der Cochrane Database of Systematic Reviews veröffentlicht. Der Prozess des Erstellens und Aktualisierens dieser Reviews ist ausführlich im Cochrane Handbook for Systematic Reviews of Interventions beschrieben (http://handbook.cochrane.org/).

3.4.3.6. Register klinischer Studien

Ergebnisse aus klinischen Studien zur Überprüfung von Interventionen, wie die Anwendung von Arzneimitteln, aber auch Studien zur Wirksamkeit nichtmedikamentöser Verfahren wie Medizinprodukte oder Programme im Public-Health-Bereich, bilden die Basis für deren Wirksamkeits-, Nutzen- und Schadensbewertung. Es gelangen allerdings bei Weitem nicht alle Studien zur Veröffentlichung, was einer verlässlichen Bewertung von Studienergebnissen entgegensteht. So konnte beispielweise in einer Analyse von nahezu 30.000 eingereichten Konferenzbeiträgen verschiedener Fachrichtungen gezeigt werden, dass nur 53% dieser Beiträge später zur Veröffentlichung in wissenschaftlichen Zeitschriften gelangten [8]. Zudem werden „positive“ Studienergebnisse häufiger und schneller publiziert als „negative“ Ergebnisse, was zur Prägung des Begriffs „Publikationsbias“ (Bias = systematische Verzerrung) geführt hat. In der Folge kann es beispielsweise zu einer Überschätzung der positiven Wirkung einer Intervention oder zur Unterschätzung schädlicher Effekte kommen, wenn Informationen über negative Auswirkungen in nicht ausreichendem Maß veröffentlicht werden.

Die Registrierung klinischer Studien und das Veröffentlichen von Studienprotokollen können zur Transparenz des Forschungs- und Publikationsprozesses beitragen, einem selektiven Bericht „positiver“ Studienergebnisse vorbeugen und eine informierte Entscheidungsfindung im Gesundheitswesen erleichtern. Register klinischer Studien sind öffentlich zugängliche Datenbanken, in denen Daten wie Titel und Kurzbeschreibungen von Studien, Ein- und Ausschlusskriterien und untersuchte Endpunkte gespeichert werden. Seit ihrer Revision im Jahr 2013 fordert auch die Deklaration von Helsinki des Weltärztebundes über die Ethischen Grundsätze für die medizinische Forschung am Menschen eine prospektive Registrierung klinischer Studien in einer öffentlich zugänglichen Datenbank [2]. Eine solche Registrierung ist zudem auch zunehmend Voraussetzung für die Veröffentlichung von Studiendaten in Fachzeitschriften.

Zu den internationalen Studienregistern gehören das amerikanische Register ClinicalTrials.gov (https://clinicaltrials.gov/) und das britische ISRCTN – Current Controlled Trials Register (https://www.isrctn.com/). Neben diesen internationalen Registern bestehen viele weitere nationale Studienregister und z.B. krankheitsspezifische Register, die von verschiedenen Organisationen geführt werden. Das Deutsche Register Klinischer Studien (DRKS) (https://drks-neu.uniklinik-freiburg.de/drks_web/setLocale_DE.do) gibt einen vollständigen und aktuellen Überblick über alle in Deutschland durchgeführten klinischen Studien. Zur Koordination aller Studienregister wurde von der World Health Organization (WHO) das Meta-Register International Clinical Trials Registry Platform (ICTRP) (http://www.who.int/ictrp/en/) gegründet. Dieses Meta-Register führt alle beteiligten Register, die bestimmte Qualitätsstandards erfüllen müssen, regelmäßig zusammen und ermöglicht damit eine globale Suche nach klinischen Studien.


References

[1] Döring N, Bortz J. Qualitätskriterien in der empirischen Sozialforschung. In: Döring N, Bortz J, editors. Forschungsmethoden und Evaluation in den Sozial- und Humanwissenschaften. Berlin. Heidelberg: Springer Verlag; 2016. p.81-119
[2] DFG. Sicherung guter wissenschaftlicher Praxis: Empfehlungen der Kommission “Selbstkontrolle in der Wissenschaft”. 2nd ed. Weinheim: Wiley-VCH; 2013.
[3] Gray C. Peer Review: A guide for researchers. The Research Information Network; 2010 [cited 2017 Jun 30]. Available from: http://www.rin.ac.uk/system/files/attachments/Peer-review-guide-screen.pdf
[4] Reinmann G, Sippel S, Spannagel C. Peer Review für Forschen und Lernen: Funktionen, Formen, Entwicklungschancen und die Rolle der digitalen Medien. In: Mandel S, Rutishauser M, Seiler Schiedt E, editors. Digitale Medien für Lehre und Forschung. Münster, New York, München, Berlin: Waxmann; 2010. p. 218-29. Available from: https://www.waxmann.com/?eID=texte&pdf=2385Volltext.pdf&typ=zusatztext
[5] Simera I, Moher D, Hirst A, Hoey J, Schulz KF, Altman DG. Transparent and accurate reporting increases reliability, utility, and impact of your research: reporting guidelines and the EQUATOR Network. BMC Med. 2010 Apr 26;8:24. DOI: 10.1186/1741-7015-8-24
[6] Scherer RW, Langenberg P, von Elm E. Full publication of results initially presented in abstracts. Cochrane Database Syst Rev. 2007 Apr 18;(2):MR000005. DOI: 10.1002/14651858.MR000005
[7] Wiesing U, Parsa-Parsi RW. Deklaration von Helsinki: Neueste Revision. Dtsch Arztebl. 2009;106:A503–6.
[8] American Psychological Association. Publication manual of the American Psychological Association. Washington: American Psychological Association; 2010.