Meine Merkliste Geteilte Merkliste PDF oder EPUB erstellen

Entgrenzungen zwischen Mensch und Maschine | Künstliche Intelligenz | bpb.de

Künstliche Intelligenz Editorial Die können was! Aber können Roboter auch fühlen? Ein Gespräch über Künstliche Intelligenz Was ist Künstliche Intelligenz – was kann sie leisten? Mensch fragt, Maschine antwortet. Wie Künstliche Intelligenz Wirtschaft, Arbeit und unser Leben verändert Entgrenzungen zwischen Mensch und Maschine, oder: Können Roboter zu guter Pflege beitragen? Maschinenethik und "Artificial Morality": Können und sollen Maschinen moralisch handeln? Überlegungen zur Disziplin der Maschinenethik Zwischen Menschwerdung und Weltherrschaft: Künstliche Intelligenz im Film

Entgrenzungen zwischen Mensch und Maschine Oder: Können Roboter zu guter Pflege beitragen?

Christoph Kehl

/ 17 Minuten zu lesen

Insofern Technik beginnt, autonom zu agieren, verwischt auch die Abgrenzung zwischen Mensch und Maschine. Im Anwendungsfeld der Pflege werden die gesellschaftlichen Herausforderungen dieser Entwicklungen deutlich.

Die jüngsten Fortschritte im Bereich der Künstlichen Intelligenz (KI) sind zweifelsohne beeindruckend: Dass Computer im Schach dem Menschen bereits seit Jahrzehnten haushoch überlegen sind, ist inzwischen Normalität. Dass aber ein KI-System fähig ist, im wesentlich komplexeren und kaum berechenbaren Go-Spiel in kürzester Zeit eine Spielstärke zu erreichen, die den weltbesten Spielern nicht den Hauch einer Chance lässt – wie jüngst geschehen –, galt bis vor Kurzem noch als undenkbar.

Algorithmen steuern immer mehr Arbeits- und Lebensbereiche, von der Internetsuche über die computergestützte Befundung in der Medizin bis zu Finanztransaktionen. In der Regel handelt es sich dabei um hochspezialisierte Softwareagenten, die in einer rein virtuellen Umwelt agieren. Es wird aber auch an "intelligenten" Systemen gearbeitet, die fähig sind, sich in der analogen Welt zu bewegen, in diese einzugreifen und mit Menschen in physischen Kontakt zu treten. Maschinen dieser Art haben das Potenzial, das Mensch-Technik-Verhältnis ganz neu zu definieren: Insofern Technik nämlich beginnt, autonom zu agieren und damit ein einfaches Denken in Zweck-Mittel-Relationen zu untergraben (wie es für die Anwendung herkömmlicher Werkzeuge maßgeblich ist), wird auch die Abgrenzung zwischen dem Menschen und den von ihm geschaffenen Arbeitsmitteln immer unschärfer. Dieses Phänomen wird im Folgenden als Mensch-Maschine-Entgrenzung bezeichnet.

Die gesellschaftliche Brisanz des Themas rückt zunehmend in das politische Bewusstsein. So sah sich das Europäische Parlament 2016 veranlasst, der EU-Kommission zivilrechtliche Regelungen im Bereich Robotik zu empfehlen. Im Bundestag waren "Künstliche Intelligenz" und "Robotik" Thema verschiedener Anhörungen, darüber hinaus wurde das Büro für Technikfolgen-Abschätzung beim Deutschen Bundestag (TAB) damit beauftragt, die technologischen Grundlagen sowie gesellschaftlichen Perspektiven dieser Entwicklung zu untersuchen. Im Folgenden werden Ergebnisse und Überlegungen aus dem dazugehörigen TAB-Projekt vorgestellt, das sich in der Sondierungsphase mit technologischen und visionären Aspekten der Mensch-Maschine-Entgrenzung befasste und in der Vertiefungsphase die gesellschaftlichen Herausforderungen der Entwicklung näher bestimmte, und zwar am Beispiel eines konkreten Anwendungskontextes – der Pflege.

Zwischen Vision und Wirklichkeit

Vor allem die Entwicklungen in zwei Technologiefeldern – der Robotik und den Neurotechnologien – tragen dazu bei, dass die ehemals scharfen Trennlinien zwischen Mensch und Maschine immer mehr verschwimmen.

Fortschritte in der Robotik machen es inzwischen möglich, auch komplexe menschliche Handlungsabläufe maschinell nachzubilden. Während der klassische Industrieroboter auf die Automatisierung repetitiver industrieller Prozesse festgelegt ist und seine Dienste aus Sicherheitsgründen weitgehend abgeschottet von Menschen vollbringt, eröffnen sich für moderne Serviceroboter vielfältige Anwendungsperspektiven auch außerhalb industrieller Fertigungshallen – seien es einfache Aufgaben in Privathaushalten (in denen Staubsaugerroboter bereits millionenfach in Anwendung sind) oder komplexe, auch personenbezogene Dienstleistungen im Pflegebereich. Möglich gemacht haben diesen Schritt in die Alltagswelt insbesondere folgende Merkmale, mit denen sich Serviceroboter von klassischen Industrierobotern abgrenzen lassen: hardwareseitig die Leichtbauweise, die – ergänzt um komplexe Sensorik und Aktorik – eine immer engere Interaktion mit dem Menschen ermöglicht; softwareseitig die Realisierung von hochentwickelten Lern- und Planungsverfahren (auf Basis von KI und Maschinellem Lernen), welche die Systeme befähigen sollen, nicht nur ein festgelegtes Handlungsprogramm abzuspulen, sondern sich auch unter neuen oder sich verändernden Bedingungen weitgehend autonom zurechtzufinden. Die Servicerobotik gilt inzwischen als zukunftsweisender Wachstumsmarkt, dessen weltweites Volumen der etablierten Industrierobotik laut Prognosen in wenigen Jahren den Rang ablaufen könnte.

Sorgt die Robotik auf der einen Seite dafür, dass Maschinen in ihren Handlungsmöglichkeiten immer menschenähnlicher werden, eröffnen die Fortschritte auf dem Gebiet der Neurotechnologien auf der anderen ganz neue Optionen, mit dem Menschen technologisch zu interagieren. Schon zum klinischen Standardrepertoire gehören stimulierende Systeme, die elektrische Impulse an das Gehirn übertragen – etwa sensorische Neuroprothesen wie das Cochlea-Implantat, mit dem sich Einschränkungen des Hörsinns über die gezielte Stimulation der entsprechenden Nervenfasern technisch kompensieren lassen. Daneben wird aber auch intensiv an ableitenden Anwendungen geforscht, mit dem Ziel, Signale aus dem Nervensystem zu gewinnen und zur Steuerung etwa von künstlichen Gliedmaßen zu verwenden. Dabei macht man sich zunutze, dass gedankliche Aktivität elektrische Potenziale erzeugt, die sowohl invasiv (mittels implantierter Mikroelektrodensonden) als auch nichtinvasiv (mittels auf der Kopfhaut fixierter Elektroden) detektierbar sind. Beide Herangehensweisen haben ihre spezifischen Limitationen: Die nichtinvasive Datengewinnung leidet an einer eher schlechten Signalqualität und kommt somit nur für die binäre Steuerung einfacher Kommunikationssysteme in Betracht. Mit invasiven Ableitmethoden sind zwar theoretisch höhere Datenraten erreichbar, was die Feinsteuerung künstlicher Gliedmaßen in den Bereich des technisch Möglichen rückt – einschränkende Faktoren sind hier aber die noch sehr begrenzte Langzeitstabilität der implantierten Sonden, die aufgrund der Fremdkörperreaktion des Gehirns (Einkapselung) in der Regel nach kurzer Zeit ihre Funktion verlieren.

Auch wenn die Datenableitung aus dem Gehirn und damit die intuitive Gedankensteuerung komplexer Apparaturen noch nicht über das experimentelle Stadium hinausgekommen ist, zeichnen sich bereits weitere Anwendungsperspektiven ab. Sollte es dereinst gelingen, durch Integration von ableitenden und stimulierenden Schnittstellen ein stabiles bidirektionales Feedbacksystem zu etablieren, ließen sich "fühlende" Handprothesen realisieren, die dem Nutzer während des Greifprozesses eine sensorische Rückmeldung geben. Auf die Spitze getrieben wird die Mensch-Maschine-Entgrenzung schließlich durch die Kombination neurotechnologischer Anwendungen mit Robotertechnologie – etwa im Form "intelligenter", sich selbst steuernder Implantate oder roboterisierter Gliedmaßen –, wodurch autonom agierende maschinelle Systeme quasi untrennbar mit dem Menschen verschmelzen. Klar ist, dass in einer solchen Konstellation nicht mehr eindeutig ist, wer wen kontrolliert: der Mensch die Maschine oder umgekehrt?

Das visionäre Potenzial dieser Entwicklungen steht außer Frage. Sowohl die Fortschritte in der Robotik als auch den Neurotechnologien werden auf gesellschaftlicher Ebene entsprechend durch weitreichende Zukunftsvorstellungen begleitet, die interessanterweise wiederum an ältere, kulturell äußerst wirkmächtige Motive anknüpfen. Da wäre zum einen die Vision einer (neuro-)technologischen Optimierung des Menschen (Human Enhancement), die Anfang des 20. Jahrhunderts, im Zuge biologisch-evolutionären Denkens, erstmals auf den Plan trat. Zum anderen wird derzeit auch intensiv über die Möglichkeit diskutiert, dass Roboter den Menschen in nicht allzu ferner Zukunft an Intelligenz überflügeln und wahlweise unterjochen oder in eine glorreiche Zukunft führen könnten. Auch diese Idee reicht mindestens hundert Jahre zurück und wurde erstmals in Karel Čapeks dystopischem Drama "R.U.R. – Rossum’s Universal Robots" (1920) ausformuliert. Angetrieben und befeuert werden diese visionären Debatten seither maßgeblich von publikumswirksamer Science-Fiction, in der verschiedene Spielarten dieser Entgrenzungsvisionen plakativ ausgemalt werden.

Dass Hybride aus Menschen und Maschinen offensichtlich keine bloße Zukunftsvision mehr sind, macht bereits die Tatsache deutlich, dass derzeit etwa 30.000 Menschen in Deutschland ein Cochlea-Implantat tragen. Dennoch stellt sich die Frage, inwiefern die erwähnten futuristischen Visionen als maßgebliche Referenzpunkte für die gesellschaftliche Auseinandersetzung mit der Entgrenzungsdynamik taugen. Um es kurz zu machen: Auf Basis einer nüchternen Bewertung der Leistungsfähigkeit der zugrundeliegenden Technologien kommt die TAB-Studie zum Ergebnis, dass größere Zweifel angebracht sind. So sind die etablierten neurotechnologischen Eingriffe in das Gehirn mit teils erheblichen gesundheitlichen Risiken verbunden, die nur zur Kompensation schwerer körperlicher Defizite ethisch gerechtfertigt erscheinen. Gegen die breitere Anwendung bei Gesunden spricht vor allem, dass die technologisch erreichbaren Zusatzfähigkeiten (z.B. Sinneserweiterungen wie das Hören von Ultraschall mittels Cochlea-Implantat) absehbar keinen wirklichen Nutzen versprechen, wie er für eine Optimierung des Menschen erforderlich wäre. Auch die Servicerobotik befindet sich derzeit in einem Entwicklungsstadium, das jeglichen Gedanken an eine "Machtübernahme" intelligenter Maschinen ins Reich der Science-Fiction verbannt. Die Autonomie der verfügbaren Systeme ist noch äußerst beschränkt und wird bereits durch einfache Manipulationsaufgaben – beispielsweise das Erkennen und Greifen von gängigen Haushaltsgegenständen unter realen Bedingungen – auf eine harte Probe gestellt. Wann – und ob überhaupt – eine starke KI realisierbar ist, die der menschlichen Intelligenz gleichkommt, ist eine Frage, über die sich nach wie vor nur spekulieren lässt.

Anwendungsfeld Pflege

Die beschriebenen Entwicklungen werfen stattdessen Fragen auf, die zwar vordergründig wenig aufsehenerregend erscheinen, tatsächlich aber von großer normativer Brisanz sind: Wie lässt sich die zunehmend enge Interaktion zwischen Menschen und autonomen Maschinen nicht nur sicher, sondern auch moralisch verantwortungsvoll gestalten? Wer ist haftbar zu machen, wenn doch etwas schiefgeht? Und gibt es ethische Grenzen der Technisierung – und wenn ja, wo liegen sie?

Einer der gesellschaftlichen Bereiche, in denen derartige Fragen derzeit besonders virulent werden, ist die Altenpflege, die sich im Zuge des demografischen Wandels vor enorme Herausforderungen gestellt sieht: Seit Jahren steigt die Zahl der Pflegebedürftigen, während es immer schwieriger wird, Pflegefachkräfte in ausreichender Zahl zu rekrutieren. Schon heute zeichnet sich eine massive Versorgungslücke ab, die den Ruf nach technischer und insbesondere robotischer Unterstützung lauter werden lässt – innovative Assistenztechnologien für die Pflege werden von der Politik entsprechend seit Jahren gefördert, und dies nicht nur in Japan, das hier als besonders fortschrittlich gilt, sondern auch in Deutschland. Gleichzeitig liegt auf der Hand, dass es sich bei der Pflege um einen außerordentlich sensiblen Bereich handelt. Zunehmende maschinelle Autonomie und die fragile Verfassung der Pflegebedürftigen stehen hier in einem spannungsreichen Verhältnis, weshalb der perspektivische Einsatz autonomer Pflegetechnologien ethisch hochumstritten ist und auch in der Bevölkerung auf viele Vorbehalte trifft. Die Altenpflege ist damit ein Feld, in dem sich die Ambivalenzen der Mensch-Maschine-Entgrenzung in paradigmatischer Weise zuspitzen.

Da sich die Rolle der Neurotechnologie hauptsächlich auf den therapeutischen Bereich beschränkt, stellt die Servicerobotik für die Altenpflege die treibende Kraft der Entgrenzungsdynamik dar. Ihr wird großes Potenzial zugeschrieben, Pflegekräfte entlasten sowie Pflegebedürftige im Alltag unterstützen zu können – entsprechende Anwendungen befinden sich bereits seit vielen Jahren in Entwicklung und Erprobung. Die sich bietenden Unterstützungsmöglichkeiten sind äußerst vielfältig und lassen sich gemäß ihren Anwendungszwecken grob folgenden Kategorien zuordnen:

Assistenzroboter zur physischen Alltagsunterstützung kommen der eigentlichen Bestimmung der Servicerobotik – der "Erweiterung menschlicher Handlungsfähigkeit" – am nächsten. Sie sollen entweder im häuslichen Umfeld eingesetzt werden, um älteren und pflegebedürftigen Menschen zur Hand zu gehen (z.B. Holen und Bringen von Gegenständen), oder der Unterstützung pflegerischer Routinetätigkeiten im Pflegeheim dienen (z.B. als Hebehilfen oder für logistische Aufgaben).

Bei sozialen Robotern steht hingegen nicht die physische, sondern die sozial-emotionale Unterstützung im Vordergrund. Zu unterscheiden ist hier zwischen Geräten, die selbst mit Menschen sozial interagieren und kommunizieren (z.B. als Unterhaltungs- oder Zuwendungsroboter), und solchen, deren Hauptzweck darin besteht, zwischenmenschliche Kontakte zu vermitteln und damit die soziale Teilhabe zu fördern (z.B. als Kommunikationsassistent oder Telepräsenzroboter). Ein bereits relativ etabliertes Anwendungsfeld der sozial-interaktiven Robotik stellt die Demenztherapie dar, wo vermehrt tierähnliche Roboter wie die Robbe Paro unterstützend zum Einsatz kommen.

Robotischen Mobilitätshilfen schließlich kommt in der Altenpflege aufgrund der verbreitet auftretenden Bewegungseinschränkungen eine wichtige praktische Bedeutung zu. Die Geräte werden entweder als Exoskelette direkt am Körper getragen oder stellen "intelligente", beispielsweise um Navigationsfunktionen ergänzte Erweiterungen einfacher Fortbewegungshilfen dar (Rollatoren, Rollstühle). Insbesondere Exoskelette bieten breite Anwendungsmöglichkeiten, da sie sowohl als alltägliche Mobilitätshilfe für ältere Menschen und Pflegebedürftige als auch zur Entlastung von Pflegekräften bei körperlich anstrengenden Aufgaben eingesetzt werden können.

Die Königsdisziplin der Pflegerobotik ist der multifunktionale Roboterassistent, der anspruchsvolle Navigations- und Manipulationsfertigkeiten mit kommunikativen und sozial-affektiven Kompetenzen kombiniert und damit prinzipiell einen vollwertigen Alltagsgefährten darstellt. Dieses Leitbild war für das Entwicklungsgeschehen lange Zeit prägend und bestimmt bis heute die öffentliche Wahrnehmung der Pflegerobotik. Mit dem Care-O-bot 4 des Fraunhofer-Instituts für Produktionstechnik und Automatisierung (IPA) hat kürzlich die Inkarnation einer solchen Companion-Vision, von den Entwicklerinnen und Entwicklern als "vielseitiger Gentleman" angepriesen, nach fast 20-jähriger Entwicklungszeit Marktreife erlangt. Ursprünglich zur Unterstützung körperlich beeinträchtigter Menschen im häuslichen Umfeld gedacht, zielt die derzeit anvisierte Kommerzialisierung des Systems allerdings primär auf andere Anwendungsfelder wie beispielsweise die Kundenführung im Einzelhandel. Für einen sicheren Einsatz als Haushalts- und Pflegeassistent sind die Manipulationsfähigkeiten bei Weitem noch nicht ausgereift.

Der Care-O-bot steht damit symptomatisch für den Stand der Pflegerobotik. Trotz langjähriger Entwicklungsbemühungen und unzähliger Prototypen hat es bislang nur eine Handvoll Systeme in die praktische Anwendung geschafft – allesamt Spezialanwendungen (neben der Robbe Paro gehören dazu einige Esshilfen sowie vereinzelte Exoskelette und Telepräsenzroboter), die über keine Greifarme und nur über begrenzte Autonomie verfügen und damit deutlich vom Leitbild des multifunktionalen Alltagsassistenten abweichen. Dafür verantwortlich sind unter anderem die hohen technischen Hürden, die es zu überwinden gilt. Hinzu kommt ein schwieriges Marktumfeld: Da die Pflegebranche unter hohem wirtschaftlichen Druck steht und nur wenige Dienstleister über ausreichendes Investitionspotenzial verfügen, ist unklar, ob sich die hohen Entwicklungskosten amortisieren lassen. Viele Entwicklungsprojekte sind deshalb von öffentlicher Förderung abhängig.

Während der robotische Alltagsassistent in den vergangenen Jahren etwas an Attraktivität verloren hat, stehen zunehmend spezialisierte Automatisierungslösungen für die stationäre Pflege im Fokus der Entwicklerinnen und Entwickler – ein Beispiel ist etwa der "intelligente" Pflegewagen des Fraunhofer IPA, der dereinst in der Lage sein soll, autonom zum Einsatzort zu navigieren, den Verbrauch zu dokumentieren und Pflegeutensilien selbstständig nachzufüllen. Die neue Schwerpunktsetzung erfolgte nicht zuletzt aus wirtschaftlichen Erwägungen heraus, denn Systeme für den Einsatz in Pflegeheimen versprechen eine höhere Auslastung und damit eine verbesserte Kosten-Nutzen-Bilanz als Anwendungen für Privathaushalte. Insgesamt sind die zukünftigen Marktaussichten für die Pflegerobotik derzeit allerdings nur schwer absehbar. Sie hängen zum einen davon ab, wie sich die sozioökonomischen Rahmenbedingungen für die Pflegebranche im Zuge des demografischen Wandels entwickeln werden (Pflege- und Fachkräftebedarf, Personalkosten, staatliche Pflegeleistungen und weiteres). Zum anderen wird es jedoch auch entscheidend darauf ankommen, ob es gelingt, Systeme zu entwickeln, welche die hohen Anforderungen an den pflegerischen Nutzen sowie die Technikakzeptanz zu erfüllen vermögen.

Was ist gute Pflege – und was können Roboter dazu beitragen?

Vergleicht man die gesellschaftliche Debatte zu Automatisierungsbestrebungen in der Pflege mit solchen, die zu ähnlichen Entwicklungen in anderen Dienstleistungskontexten geführt werden, so fällt ein Unterschied auf: Während bei den meisten Branchen die Diskussion um die Zukunft der Arbeit primär unter ökonomischen Vorzeichen geführt wird, vor allem im Hinblick auf mögliche negative Beschäftigungseffekte, stehen bei der Pflege normative Fragen zur zukünftigen Ausgestaltung des professionellen Pflegehandelns klar im Vordergrund. Dies hat zwei Gründe: Zum einen scheint die Personaldecke in vielen Pflegeheimen bereits so ausgedünnt, dass die verbliebenen Rationalisierungspotenziale wohl kaum noch maßgeblich ins Gewicht fallen. Zum anderen – wichtiger noch – handelt es sich bei der Pflege um eine personenbezogene, fürsorgliche Dienstleistung, in welcher der zwischenmenschlichen Interaktion eine grundlegende Bedeutung zukommt. Kaum jemand wird bestreiten wollen, dass Empathie, menschliche Zuwendung und körperliche Nähe zentrale Aspekte guter Pflege sind, was sich auch daran ablesen lässt, dass Vorstellungen einer vollautomatisierten, vollständig dehumanisierten Pflege gemeinhin als Schreckensvisionen gelten und unisono abgelehnt werden. Dass derartige Dystopien im ethischen und öffentlichen Diskurs dennoch so prominent vertreten sind, verweist einerseits darauf, dass Automatisierungsbestrebungen im Pflegebereich normative Fragen neuer Dimension aufwerfen. Andererseits werden daran aber auch zentrale Defizite der entsprechenden Debatten deutlich. Da diese hauptsächlich um spekulative Szenarien kreisen, findet eine differenzierte inhaltliche Auseinandersetzung mit den Potenzialen und Grenzen der Robotik in der Pflege kaum statt.

Sicher ist: Einen Roboter zu schaffen, der Pflegeaufgaben am Menschen vollautonom übernehmen und somit eine menschliche Pflegekraft zu ersetzen vermag, ist weder ein technisch realistisches (zumindest nach jetzigem Stand) noch ein erklärtes Ziel. Mit den derzeit in Entwicklung befindlichen Lösungen wird vielmehr angestrebt, Pflegeprozesse technisch so zu assistieren, dass mehr Zeit für die eigentliche Pflege und zwischenmenschliche Begegnungen bleibt – sei es durch Entlastung des Pflegepersonals oder durch die Befähigung pflegebedürftiger Menschen zu sozialer Teilhabe. Die eigentliche Frage lautet dann also, ob und inwiefern sich diese Zielsetzungen in die Tat umsetzen lassen. Dies lässt sich wiederum nicht anhand spekulativer Szenarien, sondern nur mit einem genauen Blick auf die konkreten Nutzungszusammenhänge beantworten, schließlich zeigen die vorliegenden Erfahrungen, dass die Einführung neuer Technologien vielfältige Auswirkungen auf die Pflegearbeit haben kann. Relativ gut untersucht sind die derzeit laufenden Bestrebungen, elektronische Pflegedokumentations- und -managementsysteme einzuführen – ebenfalls einhergehend mit dem Versprechen, dadurch Zeitersparnisse und Arbeitserleichterungen zu erzielen. Studien zu den pflegerischen Implikationen des elektronischen Dokumentationswesens legen nahe, dass die standardisierenden Effekte derartiger Systeme auch das Beziehungshandeln nicht unberührt lassen, es gewissermaßen einer "Maschinenlogik" unterordnen. Deutlich wird daran, dass zweck- und empfindungsbezogene Bereiche professioneller Pflegearbeit nicht klar voneinander zu trennen, vielmehr eng aufeinander bezogen sind – ein Punkt, der auch aus pflegewissenschaftlicher Sicht betont wird. Gute Pflege lässt sich demnach nicht auf standardisierte Problemlösungsverfahren reduzieren, sondern basiert wesentlich auf "körperlicher und emotionaler Arbeit", ohne die der "Zugang zum Anderen" verwehrt bleibt.

Vor diesem Hintergrund sind Befürchtungen nicht von der Hand zu weisen, dass ein forcierter Robotereinsatz dazu führen könnte, dass Pflegearbeit zunehmend einem mechanistischen Verständnis unterworfen wird, das heißt auf zweckbezogene Anteile verengt und die empfindungsbezogenen Aspekte entsprechend marginalisiert werden – vor allem, wenn sich dadurch betriebswirtschaftlich einsparen lässt. Dies gilt umso mehr, als sich ein einseitiges Verständnis der Pflege als zweckrationales Problemlösungshandeln in übergreifende und bereits länger anhaltende Standardisierungs- wie auch Ökonomisierungsbestrebungen einordnet (z.B. zur Organisation der Versorgungsprozesse, zur Qualitätssicherung oder zur Abbildung und Abrechnung des Leistungsgeschehens), die nicht nur die Pflege, sondern das Gesundheitswesen insgesamt zunehmend betriebswirtschaftlichen Handlungslogiken unterwerfen.

Was folgt daraus? Zumindest dreierlei. Erstens: Der Nutzen der autonomen Robotik für die Pflege lässt sich nicht isoliert an einzelnen, geeigneten respektive weniger geeigneten Aufgaben festmachen, da auch von der Automatisierung von Einzelprozessen tiefgreifende Implikationen für die gesamte Pflegepraxis zu erwarten sind. Um neue Robotiklösungen optimal in die Pflegearbeit einzupassen, müssen Arbeitsprozesse normiert, Qualitätsstandards definiert und auch das Arbeitsumfeld robotergerecht gestaltet werden. Zweitens: Bei der Frage, ob sich eine Robotikanwendung für die Pflege fruchtbar machen lässt, gilt es deren Auswirkungen auf die personengebundenen Kernprozesse genau im Blick zu behalten. Werden neue Freiräume für Beziehungshandeln geschaffen oder bestehende minimiert? Drittens: Darüber hinaus gibt es kein Patentrezept, wie sich die Potenziale der Robotik für die Pflege nutzbar machen lassen. Letztlich handelt es sich dabei um eine anspruchsvolle Gestaltungsaufgabe, die sowohl die Einzeltechnologien (Design, Funktionalität) als auch deren soziotechnische Einbettung einzubeziehen hat. Die Diskrepanz zwischen postuliertem Lösungspotenzial und tatsächlich erreichtem Nutzen robotischer Pflegeanwendungen ist nach Meinung verschiedener Expertinnen und Experten nicht zuletzt darauf zurückzuführen, dass den Bedürfnissen und Problemlagen der Pflegebedürftigen bislang zu wenig Beachtung geschenkt wurde und die resultierenden Anwendungen somit keinen wirklichen pflegerischen Mehrwert bieten. Ausgangs- und Orientierungspunkt bei der Entwicklung neuer Technologien sollte deshalb nicht die technische Machbarkeit sein, sondern die tatsächlichen Unterstützungsbedarfe potenzieller Nutzerinnen und Nutzer sowie anderweitig Betroffener, die es partizipativ in den Entwicklungsprozess einzubeziehen gilt.

Fazit

Gradmesser für die gesellschaftliche Relevanz aktueller Entwicklungen in der KI ist weniger der erreichte Grad an Künstlicher Intelligenz, die eher als abstrakter Oberbegriff für sehr unterschiedliche Verhaltensmerkmale "intelligenter" Systeme firmiert, sondern deren Fähigkeit, zunehmend autonom, das heißt unabhängig von menschlicher Steuerung, zu agieren (und das möglichst in komplexen Umgebungen). Insbesondere das Maschinelle Lernen ist dafür eine wichtige Voraussetzung; benötigt werden aber auch – zumindest bei Systemen, die sich in der analogen Welt bewegen – Wahrnehmungs-, Planungs- sowie Manipulationsfertigkeiten, die bislang erst unzureichend entwickelt und systemisch integriert sind. Die Relevanz dieser entgrenzenden Entwicklungen steht dennoch außer Frage. Wie das Beispiel Pflege zeigt, wirft die perspektivische Einbettung sich verselbstständigender Maschinen in menschliche Lebens- und Handlungskontexte viele normative Fragen auf und ist mit großen moralischen Unsicherheiten verbunden. Es scheint also unbedingt geboten, sich frühzeitig mit dieser Entwicklung zu befassen. Dass derzeit noch weitgehend unklar ist, ob, wann und in welcher konkreten Form die Robotik in den pflegerischen Alltag Einzug halten wird, steht dem nicht entgegen, sondern verweist im Gegenteil auf die Möglichkeit einer vorausschauenden Gestaltung dieser Technisierungsprozesse.

Ein zentrales Element dabei ist die Technikgestaltung im engeren Sinne, und zwar primär orientiert an den Bedürfnissen der Pflegebedürftigen. Ebenso wichtig ist aber, die sozialen und diskursiven Treiber der Entwicklung nicht außer Acht zu lassen, wie gerade die Pflege deutlich macht. Zwar konnten im Bereich Robotik in den vergangenen Jahren zweifelsohne etliche Fortschritte erzielt werden; die hohen und teils überzogenen Erwartungen an das Lösungspotenzial robotischer Pflegesysteme vermögen diese jedoch nicht wirklich plausibel zu machen. Hinter den fortschreitenden Bestrebungen, Aspekte der Pflegearbeit zu technisieren, stehen vielmehr starke gesellschaftliche Interessen. Dazu gehören beispielsweise die seit Längerem laufenden Bemühungen, die noch vor wenigen Jahrzehnten fast vollumfänglich informell geleistete Pflegearbeit zu professionalisieren und evidenzbasiert auszurichten, nicht zuletzt aus Kostengründen. Der demografische Wandel mit seinen enormen Herausforderungen verstärkt derartige Tendenzen und lässt Hightech-Lösungen wie die Robotik mit ihrem Versprechen auf eine effizientere Ausgestaltung der Pflegearbeit für viele als fast schon unausweichlich erscheinen.

Vor diesem Hintergrund erscheinen nicht nur Forschung und Entwicklung, auch die gesellschaftliche Debatte zur Robotik in der Pflege allzu einseitig auf technische Machbarkeitsvisionen fixiert und zu wenig damit beschäftigt, was überhaupt wünschenswerte Entwicklungen sind. Ob Roboter zu guter Pflege beitragen können, ist letztlich weniger eine Frage des technischen Fortschritts als eine der sinnvollen Innovation von Arbeitsprozessen sowie institutioneller Rahmenbedingungen. Die Gestaltung guter Pflege ist deshalb in grundlegender Weise als eine gesamtgesellschaftliche Aufgabe zu sehen. Wie könnte also ein verantwortungsvoller Umgang mit den neuen technischen Möglichkeiten aussehen? Im TAB-Projekt "Robotik und assistive Neurotechnologien in der Pflege" wurden dazu politische Handlungsmöglichkeiten herausgearbeitet, die hier nicht vertieft werden können. Nur so viel: Neben der Anpassung rechtlicher Rahmensetzungen (in den Bereichen Sicherheit, Datenschutz und Haftung) sowie der Förderung bedarfsorientierter Technikentwicklung erscheint als vordringliche Aufgabe, eine breite, auch öffentliche Debatte darüber anzustoßen, welche Rolle die Robotik in Pflegekontexten zukünftig spielen soll – und zwar auf Basis einer möglichst realistischen Einschätzung der Potenziale und Grenzen eines pflegerischen Robotereinsatzes.

Fussnoten

Fußnoten

  1. Vgl. Europäisches Parlament, Bericht mit Empfehlungen an die Kommission zu zivilrechtlichen Regelungen im Bereich Robotik (2015/2103(INL)), Brüssel 2017.

  2. Vgl. Christoph Kehl/Christopher Coenen, Technologien und Visionen der Mensch-Maschine-Entgrenzung. Sachstandsbericht zum TA-Projekt "Mensch-Maschine-Entgrenzungen: zwischen künstlicher Intelligenz und Human Enhancement". Büro für Technikfolgen-Abschätzung beim Deutschen Bundestag, Berlin 2016.

  3. Vgl. Expertenkommission Forschung und Innovation, Gutachten zu Forschung, Innovation und technologischer Leistungsfähigkeit Deutschlands 2016, Berlin 2016, S. 53.

  4. Bahnbrechend sind diesbezüglich vor allem die Arbeiten von Niels Bierbaumer in Tübingen, dem es kürzlich gelungen ist, mittels einer Gehirn-Computer-Schnittstelle mit komplett gelähmten Locked-In-Patienten zu kommunizieren. Vgl. Ujwal Chaudhary et al., Brain–Computer Interface–Based Communication in the Completely Locked-In State, in: PLOS Biology 1/2017, S. 1–25.

  5. Vgl. Kehl/Coenen (Anm. 2), S. 33ff.

  6. Vgl. dazu die Beiträge zum Thema "Der Neue Mensch" in Aus Politik und Zeitgeschichte 37–38/2016.

  7. Vgl. John D. Bernal, The World, the Flesh and the Devil. An Inquiry into the Future of the Three Enemies of the Rational Soul, London 1929.

  8. Siehe dazu auch den Beitrag von Ingo Irsigler und Dominik Orth in dieser Ausgabe (Anm. d. Red.).

  9. Vgl. Kehl/Coenen (Anm. 2), S. 140ff.

  10. Vgl. Birgit Graf/Torsten Heyer/Barbara Klein, Servicerobotik für den demografischen Wandel. Mögliche Einsatzfelder und Entwicklungsstand, in: Bundesgesundheitsblatt 56/2013, S. 1145–1152.

  11. Michael Decker, Robotik, in: Armin Grunwald (Hrsg.), Handbuch Technikethik, Stuttgart 2013, S. 356.

  12. Vgl. Barbara Klein, Zwischen Natur und Technik – Künstliche Tiere. Können künstliche Tiere zur Lebensqualität in der Altenhilfe beitragen?, in: Meret Fehlmann/Margot Michel/Rebecca Niederhauser (Hrsg.), Tierisch! Das Tier und die Wissenschaft. Ein Streifzug durch die Disziplinen, Zürich 2016, S. 33–42.

  13. Mobilitätshilfen sind bislang die einzigen Roboterlösungen für den Pflegebereich, die sich einigermaßen sinnvoll mit neurotechnologischen Schnittstellen kombinieren lassen. Das Exoskelett HAL ist vermutlich das weltweit erste kommerziell verfügbare Produkt, das Muskelsignale zur Bewegungssteuerung nutzt.

  14. Vgl. Bettina-Johanna Krings et al., ITA-Monitoring "Serviceroboter in Pflegearrangements", Pre-Print: 4.12.2012, Karlsruhe 2012, S. 41.

  15. Fraunhofer IPA, Roboter als vielseitiger Gentleman, Pressemitteilung, 15.1.2015.

  16. Vgl. Martin Hägele/Nikolaus Blümlein/Oliver Kleine, Wirtschaftlichkeitsanalysen neuartiger Servicerobotik-Anwendungen und ihre Bedeutung für die Robotik-Entwicklung. Eine Analyse der Fraunhofer-Institute IPA und ISI im Auftrag des BMBF, München 2011, S. 86ff.

  17. Vgl. Birgit Graf/Ralf S. King, Pflegewagen werden intelligent, in: Pflegezeitschrift 3/2016, S. 373ff.

  18. Für Furore und anhaltenden Diskussionsbedarf sorgte insbesondere die Studie von Carl B. Frey/Michael A. Osborne, The Future of Employment: How Susceptible are Jobs to Computerization?, Oxford 2013.

  19. Vgl. Volker Hielscher/Lukas Nock/Sabine Kirchen-Peters, Technikeinsatz in der Altenpflege. Potenziale und Probleme in empirischer Perspektive, Baden-Baden 2015, S. 153.

  20. Vgl. Robert Sparrow/Linda Sparrow, In the Hands of Machines? The Future of Aged Care, in: Minds & Machines 16/2006, S. 141–161.

  21. Vgl. z.B. Hans-Peter de Ruiter/Joan Liaschenko/Jan Angus, Problems with the Electronic Health Record, in: Nursing Philosophy 17/2016, S. 49–58.

  22. Manfred Hülsken-Giesler, Der Zugang zum Anderen. Zur theoretischen Rekonstruktion von Professionalisierungsstrategien pflegerischen Handelns im Spannungsfeld von Mimesis und Maschinenlogik, Osnabrück 2008.

  23. Vgl. ebd.

  24. Ebd., S. 26

  25. Vgl. Alexandra Manzei, Neue betriebswirtschaftliche Steuerungsformen im Krankenhaus: wie durch die Digitalisierung der Medizin ökonomische Sachzwänge in der Pflegepraxis entstehen, in: Pflege und Gesellschaft 14/2009, S. 38–53.

  26. Vgl. Krings et al. (Anm. 14).

  27. Vgl. Diego Compagna/Stefan Derpmann, Verfahren partizipativer Technikentwicklung, Working Papers kultur- und techniksoziologische Studien 4/2009.

  28. Der entsprechende TAB-Arbeitsbericht Nr. 177 ist derzeit in Vorbereitung.

Lizenz

Dieser Text ist unter der Creative Commons Lizenz "CC BY-NC-ND 3.0 DE - Namensnennung - Nicht-kommerziell - Keine Bearbeitung 3.0 Deutschland" veröffentlicht. Autor/-in: Christoph Kehl für Aus Politik und Zeitgeschichte/bpb.de

Sie dürfen den Text unter Nennung der Lizenz CC BY-NC-ND 3.0 DE und des/der Autors/-in teilen.
Urheberrechtliche Angaben zu Bildern / Grafiken / Videos finden sich direkt bei den Abbildungen.
Sie wollen einen Inhalt von bpb.de nutzen?

hat zur Praxis und Theorie der biomedizinischen Gedächtnisforschung promoviert und ist Mitarbeiter des Büros für Technikfolgen-Abschätzung beim Deutschen Bundestag (TAB). E-Mail Link: kehl@tab-beim-bundestag.de