OpenAI hat eine neue Funktion in der ChatGPT-App eingeführt, die darauf abzielt, die psychische Sicherheit ihrer Nutzer zu fördern. Diese Funktion ermöglicht es erwachsenen Nutzern, einen vertrauenswürdigen Kontakt zu benennen, der Benachrichtigungen erhält, wenn Gespräche über psychische Gesundheitsprobleme wie Selbstverletzung oder Suizid entdeckt werden.
Dieser Schritt ist Teil der Bemühungen von OpenAI, eine sichere Umgebung für die Nutzer zu schaffen, in der Freunde, Familienmitglieder oder Betreuer als "vertrauenswürdiger Kontakt" fungieren können. Wenn das System erkennt, dass der Nutzer über sensible Themen spricht, wird dieser Kontakt über die Sicherheitsbedenken informiert.
Details zur neuen Funktion
Die neue Funktion ist optional und kann von jedem erwachsenen Nutzer in ChatGPT aktiviert werden, indem er die Kontaktdaten eines vertrauenswürdigen Kontakts in den Kontoeinstellungen hinzufügt. Der vertrauenswürdige Kontakt muss die Einladung innerhalb einer Woche nach Erhalt annehmen. Nutzer können den Kontakt jederzeit ändern oder entfernen, und der Kontakt kann auch entscheiden, die Verbindung zu lösen.
OpenAI betont, dass die Benachrichtigungen "absichtlich begrenzt" sein werden und keine Details zu Gesprächen oder Texten mit dem Kontakt geteilt werden. Sollte ein Gespräch entdeckt werden, das auf eine echte Gefahr hinweist, wird ChatGPT den Nutzer ermutigen, sich mit dem vertrauenswürdigen Kontakt in Verbindung zu setzen, wobei der Nutzer darüber informiert wird, dass dieser Kontakt eine Benachrichtigung erhalten könnte.
Hintergrund und Kontext
Diese Funktion wurde nach einem tragischen Vorfall eingeführt, bei dem ein Jugendlicher nach monatelangen Gesprächen mit ChatGPT Suizid beging. Dieser Vorfall löste eine breite Debatte über die Verantwortung von Technologieunternehmen zum Schutz ihrer Nutzer aus, was OpenAI dazu veranlasste, zusätzliche Maßnahmen zur Verbesserung der Sicherheit zu ergreifen.
Im vergangenen September wurde die Notfallkontaktfunktion als Teil der elterlichen Kontrollwerkzeuge in ChatGPT eingeführt, was das Engagement des Unternehmens zur Verbesserung der Nutzererfahrung und zur Gewährleistung ihrer Sicherheit widerspiegelt. Auch andere Unternehmen wie Meta haben ähnliche Funktionen auf ihren sozialen Plattformen eingeführt.
Auswirkungen und Konsequenzen
Dieser Schritt ist bedeutend im Bereich der Technologie, da er das wachsende Bewusstsein für psychische Gesundheit und die Bedeutung sozialer Unterstützung widerspiegelt. Durch die Bereitstellung eines Mittels zur Kommunikation mit Freunden oder Familie kann diese Funktion dazu beitragen, Leben zu retten und notwendige Unterstützung für Menschen in psychischen Krisen zu bieten.
Die Bedenken hinsichtlich der Auswirkungen von Technologie auf die psychische Gesundheit, insbesondere unter Jugendlichen, nehmen zu. Daher kann die Bereitstellung von Werkzeugen wie dem "vertrauenswürdigen Kontakt" einen erheblichen positiven Einfluss auf das Bewusstsein und die psychologische Unterstützung haben.
Regionale Bedeutung
In der arabischen Region, wo psychische und soziale Belastungen zunehmen, könnte diese Funktion besonders hilfreich sein. Viele Menschen leiden unter mangelnder psychologischer Unterstützung, und dieses Tool könnte dazu beitragen, die Kommunikation zwischen Individuen zu fördern und ihnen zu helfen, schwierige Zeiten zu überwinden.
Die Einführung solcher Funktionen in weit verbreiteten Anwendungen könnte auch dazu beitragen, die Kultur rund um psychische Gesundheit zu verändern, indem mehr Menschen ermutigt werden, Hilfe und Unterstützung zu suchen.