A recent study by the Technion (Israel) shows what some have already suspected. If all the homework is done, then the emotion, the so-called “warmth”, the heart decides and can more than compensate for many a competitive disadvantage, missing features or a somewhat slower algorithm. Figuratively speaking, the virtual hug counts more than competence.
In the current press release, the Technion elaborates: “Spotify or Apple Music? Waze or Google Maps? Alexa or Siri? Consumers choose between artificial intelligence (AI)-based systems every day. How exactly do they choose which systems to use? Considering the amount of money and efforts spent on AI performance enhancement, one might expect competence and capability to drive users’ choices. Instead, a recent study conducted by researchers from the Faculty of Industrial Engineering and Management at the Technion – Israel Institute of Technology shows that the “warmth” of a system plays a pivotal role in predicting consumers’ choice between AI systems.
Research findings from a study featuring more than 1,600 participants, recently published in the Proceedings of the 2021 CHI Conference on Human Factors in Computing Systems, offer some insight into the psychology of potential users.
The researchers, Zohar Gilad, Prof. Ofra Amir, and Prof. Liat Levontin from the Faculty of Industrial Engineering and Management at the Technion, examined the effects of users’ perception of AI systems’ warmth, that is, the systems’ perceived intent (good or ill), and AI systems’ competence, that is, the systems’ perceived ability to act on those intentions, on the choices they made.
Most of the research done to date regarding warmth perceptions of AI-based systems addressed systems with a virtual or physical presence, such as virtual agents and robots. The current study, though, focused on “faceless” AI systems, with little or no social presence, such as recommender systems, search engines, and navigation apps.
For these types of AI systems, the researchers defined warmth as the primary beneficiary of the system. For example, a navigation system can prioritize collecting data about new routes (benefitting the system) over presenting the best-known route, or vice versa.
The researchers found that the system’s warmth was important to potential users, even more than its competence, and they favored a highly warm system over a highly competent system. This preference for warmth persisted even when the highly warm system was overtly deficient in its competence. For example, when asked to choose between two AI systems that recommend car insurance plans, most participants favored a system with low-competence (“using an algorithm trained on data from 1,000 car insurance plans”) and high-warmth (“developed to help people like them”), over a system with high-competence (“using a state-of-the-art artificial neural network algorithm trained on data from 1,000,000 car insurance plans”) and low-warmth (“developed to help insurance agents make better offers”). That is, consumers were willing to sacrifice competence for higher warmth.
These findings are similar to what is known of human interactions: warmth considerations are often more important than competence considerations when judging fellow humans. In other words, people use similar basic social rules to evaluate AI systems and people, even when assessing AI systems without overt human characteristics. Based on their findings, the researchers concluded that AI system designers consider and communicate the system’s warmth to its potential users.”
The next step would be to explore to what extent the narrative, points of contact of identification, identity and the underlying philosophy and its coherent implementation in the product are decisive for the selection. It is to be suspected that world is more than just zeros and ones. The basis of the world is atoms, but without soul, atoms are nothing.
Deutsche Version
Was schon einige vermutet haben, zeigt nun eine aktuelle Studie des Technion (Israel). Sind alle Hausaufgaben gemacht, dann entscheidet die Emotion, die sogenannte “Wärme”, das Herz und kann auch manchen Wettbewerbsnachteil, fehlende Features oder einen etwas langsameren Algorithmus mehr als ausgleichen. Die virtuelle Umarmung zählt im übertragenen Sinne gesprochen mehr als die Kompetenz.
In der aktuellen Pressemitteilung weiß das Technion näher auszuführen: “Spotify oder Apple Music? Waze oder Google Maps? Alexa oder Siri? Verbraucher wählen jeden Tag zwischen Systemen, die auf künstlicher Intelligenz (KI) basieren. Wie genau wählen sie aus, welche Systeme sie nutzen? Wenn man bedenkt, wie viel Geld und Aufwand in die Verbesserung der KI-Leistung gesteckt wird, könnte man erwarten, dass Kompetenz und Fähigkeiten die Wahl der Nutzer bestimmen. Stattdessen zeigt eine aktuelle Studie, die von Forschern der Fakultät für Wirtschaftsingenieurwesen am Technion – Israel Institute of Technology durchgeführt wurde, dass die emotionale “Wärme” eines Systems eine entscheidende Rolle bei der Wahl der Verbraucher zwischen KI-Systemen spielt.
Die Forschungsergebnisse einer Studie mit mehr als 1.600 Teilnehmern, die kürzlich in den Proceedings of the 2021 CHI Conference on Human Factors in Computing Systems veröffentlicht wurden, bieten einen Einblick in die Psychologie potenzieller Nutzer.
Die Forscher Zohar Gilad, Prof. Ofra Amir und Prof. Liat Levontin von der Fakultät für Wirtschaftsingenieurwesen am Technion untersuchten die Auswirkungen der Wahrnehmung der Benutzer von KI-Systemen auf ihre Entscheidungen, d. h. die wahrgenommenen Absichten der Systeme (gut oder schlecht) und die Kompetenz der KI-Systeme, d. h. die wahrgenommene Fähigkeit der Systeme, diese Absichten umzusetzen.
Die meisten der bisher durchgeführten Untersuchungen zur Wahrnehmung der sogenannten Wärme bei KI-basierten Systemen befassten sich mit Systemen mit virtueller oder physischer Präsenz, wie z. B. virtuellen Agenten und Robotern. Die aktuelle Studie konzentrierte sich jedoch auf “gesichtslose” KI-Systeme, mit wenig oder keiner sozialen Präsenz, wie Empfehlungssysteme, Suchmaschinen und Navigations-Apps.
Für diese Arten von KI-Systemen definierten die Forscher Wärme als den primären Nutznießer des Systems. Zum Beispiel kann ein Navigationssystem das Sammeln von Daten über neue Routen (zum Nutzen des Systems) gegenüber der Präsentation der bekanntesten Route priorisieren oder umgekehrt.
Die Forscher fanden heraus, dass die “Wärme” des Systems für potenzielle Benutzer sogar wichtiger war als seine Kompetenz, und sie bevorzugten ein sehr warmes System gegenüber einem sehr kompetenten System. Diese Vorliebe für Wärme blieb auch dann bestehen, wenn das sehr warme System offenkundige Kompetenzmängel aufwies.
Als sie zum Beispiel gebeten wurden, zwischen zwei KI-Systemen zu wählen, die Autoversicherungen empfehlen, bevorzugten die meisten Teilnehmer ein System mit niedriger Kompetenz (“Mit einem Algorithmus, der auf Daten von 1.000 Autoversicherungen trainiert wurde“) und hoher “Wärme” (“Entwickelt, um Menschen wie ihnen zu helfen“) gegenüber einem System mit hoher Kompetenz (“Mit einem hochmodernen künstlichen neuronalen Netzwerk-Algorithmus, der auf Daten von 1.000.000 Autoversicherungen trainiert wurde“) und niedriger Wärme (“Entwickelt, um Versicherungsvertretern zu helfen, bessere Angebote zu machen“). Das heißt, die Verbraucher waren bereit, Kompetenz für mehr “Wärme” zu opfern.
Diese Ergebnisse ähneln dem, was von menschlichen Interaktionen bekannt ist: Die emotionale “Wärme” ist bei der Beurteilung von Mitmenschen oft wichtiger als Kompetenz. Mit anderen Worten: Menschen verwenden ähnliche soziale Grundregeln, um KI-Systeme und Menschen zu bewerten, selbst wenn sie KI-Systeme ohne offenkundige menschliche Eigenschaften beurteilen. Basierend auf ihren Ergebnissen schlussfolgerten die Forscher, dass KI-Systemdesigner die emotionale “Wärme” des Systems berücksichtigen und ihren potenziellen Nutzern vermitteln müssen.”
Der nächste Schritt wäre es zu erforschen, inwieweit das Narrativ, Berührungspunkte der Identifizierung, Identität und die zugrunde liegende Philosophie und ihre koheränte Umsetzung im Produkt für die Auswahl entscheidend sind. Es steht zu vermuten, dass Welt mehr als nur aus Nullen und Einsen besteht. Die Grundlage der Welt sind die Atome, aber ohne Seele sind die Atome nichts.
Blog 'VonNaftali' 