Hat ein digitaler persönlicher Assistent ethische Verantwortlichkeiten?

Ein Freund von mir schloss sich den Reihen an und kaufte ein Google Home. Vor allem, weil sie zum Verkauf standen, aber auch, weil sie meine Frau und mich gelegentlich gesehen hat und ihre Neugierde endlich das Beste aus ihr herausholte. Auf jeden Fall hat sie jetzt eine kleine Roboter-KI auf ihrem Couchtisch, die ihr das Wetter oder ihren Zeitplan für den Tag mitteilt, bei Bedarf Musik abspielt und das Licht der Veranda mit der Macht der Sprachsteuerung einschaltet und Spaß hat es. Ich gehe davon aus, dass jeder, der ein Google Home- oder Amazon Echo-Gerät hat, eine ähnliche Flitterwochenphase hatte, bevor sie zur Routine wurde.

Sollten wir darauf vertrauen, dass eine KI die richtigen Leute anruft?

Sie weiß auch, dass ich ziemlich versiert bin, wenn es darum geht, wie Google "Zeug" (ihre Worte) funktioniert, und wollte wissen, ob es die Polizei anrufen kann, weil es "dachte" (diesmal sind die Zitate von mir), dass es ein Verbrechen gab begangen werden oder eine gefährliche Situation im Spiel. Ich ließ sie wissen, dass es nicht möglich war und dass es, wenn es kein Hotword erkannte, nichts verarbeitete oder hochlud, was es hören konnte, aber ich würde vorsichtig sein, wenn ich dumme Fragen stelle, die sich prinzipiell in Schwierigkeiten bringen könnten. Sie schien … enttäuscht zu sein.

Mehr: Was bedeutet ein "Always Listening" -Smart Speaker wirklich?

Warum um alles in der Welt sollten Sie wollen, dass es in der Lage ist, verdächtige Dinge zu melden ?, fragte ich. Schätzen Sie Ihre Privatsphäre nicht mehr als das? Sie antwortete schnell mit einem "Ja, aber" und fuhr fort zu erklären, dass sie alleine lebte und vollkommen in Ordnung wäre, wenn sie eine potenziell gefährliche Situation einschätzen und eine Art Versand veranlassen könnte. Wir haben die Vor- und Nachteile besprochen und uns gegenseitig die Argumente angehört - schließlich ging es um die Sicherheit von Kindern, so wie es viele andere Dinge tun -, und ich gebe zu, dass ihre Begründung solide war, auch wenn ich nicht einverstanden bin.

Ich möchte nicht, dass ein kleines Gerät, das auf einem Tisch steht, entscheidet, ob es 911 anruft. Punkt, Punkt. Ich vertraue nicht darauf, dass dies der richtige Zeitpunkt ist, und ich möchte auch nicht, dass diese Entscheidung mir genommen wird, auch wenn ich nicht jedes Mal den richtigen Anruf tätigen würde. Ich halte mich für ziemlich intelligent und bin in der Lage, schnell ein Urteil zu fällen, obwohl ich manchmal weiß, dass dieser Anruf falsch sein kann. Ich denke auch, dass ein Algorithmus entwickelt werden könnte, der Besonderheiten erkennt und auch die meiste Zeit den richtigen Anruf tätigt. Trotzdem möchte ich keine Technologie, die meine Privatsphäre in meinem eigenen Zuhause unabhängig von den Umständen ersetzt.

Ihre Argumente, die ich noch einmal zugeben werde, sind stichhaltig und treffen auf unappetitliche Themen wie einen missbräuchlichen Partner oder Elternteil und die Idee eines Szenarios für eine Hausinvasion. Der Punkt, an dem ich innehalten musste, war, als sie mich fragte, ob ich diese Funktion gerne hätte, wenn meine Frau allein wäre oder wenn meine Töchter es hätten. Ich versuche in allen Dingen aufgeschlossen zu sein, aber ich bin immer noch ein Ehemann und Vater und ich muss zugeben, dass ich es dann nicht so sehr hassen würde.

Ich schätze die Privatsphäre über alles andere, aber ich muss innehalten, wenn es um meine Familienmitglieder geht.

Ich bin nicht hin und her gerissen - ich denke nicht, dass ein digitaler persönlicher Assistent irgendeine Art von Fähigkeit haben sollte, zuzuhören, außer wenn ein Hotword gehört und verarbeitet wird. Ich verstehe, dass jemand in Schwierigkeiten möglicherweise nicht in der Lage ist, Google oder Alexa um Hilfe zu bitten, aber ich denke immer noch, dass es das geringere Übel ist, wenn er nicht die Fähigkeit hat. Aber da die Technologie immer persönlicher wird, sind dies die Arten von Gesprächen, die geführt werden müssen. Der Gesetzgeber und die Unternehmen, die sie herstellen, müssen dies herausfiltern, aber wir müssen auch darüber diskutieren, wie viel Einfluss jede Art von intelligenter Elektronik auf unser Leben haben sollte.

Ich bin mit dem aktuellen Stand einverstanden und hoffe, dass keiner immer die Antwort auf diese Frage ist. Ich bin gespannt was du denkst. Sollte ein Google-Konto in der Lage sein, die Polizei anzurufen und Missbrauch zu melden? Was ist mit anderen Situationen wie Diskussionen über Gewalt? Eine größere Frage könnte sein, ob man die Möglichkeit haben sollte, jemanden zu überprüfen und zu melden, der gesucht wird, da er unsere Identität kennt. Ich erwarte jede Menge ruckelige Reaktionen auf diese Fragen - ich hatte sicherlich meine eigenen -, aber hoffentlich können wir auch eine ernsthafte Diskussion führen.

Schlagen Sie die Kommentare und sagen Sie mir, was Sie denken.

Derjenige, den man bekommt

Google Nest Hub

Unser liebstes Smart Display.

Mit seinem fantastischen Design, dem gut aussehenden Bildschirm und der flotten Leistung ist der Google Nest Hub eine wahre Freude. Die Lautsprecher sind nicht die leistungsstärksten, aber sie eignen sich hervorragend zum Anschauen von Videos und zum Hören von Musik.

Hey Google

Google Home Mini

Winzig, stoffig und ach so billig.

Unabhängig davon, ob Sie den vollen Preis von 49 US-Dollar zahlen oder ihn zum Verkauf anbieten, der Google Home Mini ist ein fantastischer Assistent. Es klingt ziemlich gut, passt in jedes Zuhause und führt dieselben Assistentenaktionen aus wie teurere Optionen.

Für Einkäufe über unsere Links können wir eine Provision verdienen. Mehr erfahren.