AI Companion Robot Data Sharing: Preferences of an Online Cohort and Policy Implications

Clara Berridge, Yuanjin Zhou, Julie M. Robillard and Jeffrey Kaye

Journal of Elder Policy, 2023, vol. 2, issue 3, 19-54

Abstract: Policymakers have recognized the urgent need to create AI data protections, yet the interests of older adults have thus far not been well represented. We report peoples' perspectives on small AI companion robots for older adults, along with attendant issues related to facial expression and conversation data collection and sharing. Data are from a cross‐sectional survey of an online cohort of the Oregon Center for Aging & Technology at Oregon Health & Science University, with a response rate of 45% and analytic sample of 825 (mean age: 63.9, rang: 25‐88). Logistic regressions examined relationships between comfort and data sharing preferences with socio‐demographic characteristics. Just over half (52.3%) were somewhat or very comfortable with an artificial companion robot during the pandemic and 45.2% were under normal circumstances. In adjusted models, being younger, male, and having lower formal education and greater confidence in computer use were associated with greater likelihood of being comfortable with a companion robot. Those who were at least somewhat comfortable with robots recording their conversations (15%) or reported that they would probably want their facial expressions read for emotion detection (52.8%) also selected with whom they want these data shared. Free text comments were thematically analyzed. Primary themes were that robot‐based data collection constitutes over monitoring and invasion of privacy, with participants predicting data privacy, security, and use issues. These findings about the importance potential users place on data protection and transparency demonstrate a need for law and policy to act to enable trustworthy, desirable companion robots. Los formuladores de políticas han reconocido la necesidad urgente de crear protecciones de datos de IA, pero los intereses de los adultos mayores hasta ahora no han estado bien representados. Informamos las perspectivas de las personas sobre los pequeños robots acompañantes de IA para adultos mayores, junto con los problemas relacionados con la expresión facial y la recopilación y el intercambio de datos de conversación. Los datos provienen de una encuesta transversal de una cohorte en línea del Centro de Oregón para el Envejecimiento y la Tecnología en la Universidad de Salud y Ciencias de Oregón, con una tasa de respuesta del 45 % y una muestra analítica de 825 (edad media: 63,9, rango: 25‐88). Las regresiones logísticas examinaron las relaciones entre la comodidad y las preferencias de intercambio de datos con características sociodemográficas. Un poco más de la mitad (52,3 %) se sintió algo o muy cómodo con un robot de compañía artificial durante la pandemia y el 45,2 % se encontraba en circunstancias normales. En modelos ajustados, ser más joven, hombre y tener una educación formal más baja y una mayor confianza en el uso de la computadora se asociaron con una mayor probabilidad de sentirse cómodo con un robot compañero. Aquellos que se sentían al menos algo cómodos con los robots grabando sus conversaciones (15 %) o informaron que probablemente querrían que se leyeran sus expresiones faciales para la detección de emociones (52,8 %) también seleccionaron con quién querían compartir estos datos. Los comentarios de texto libre se analizaron temáticamente. Los temas principales fueron que la recopilación de datos basada en robots constituye un control excesivo y una invasión de la privacidad, y los participantes predijeron problemas de privacidad, seguridad y uso de datos. Estos hallazgos sobre la importancia que los usuarios potenciales le dan a la protección de datos y la transparencia demuestran la necesidad de que la ley y la política actúen para habilitar robots de compañía deseables y confiables. 政策制定者已经认识到建立人工智能(AI)数据保护这一迫切需求，但迄今为止，老年人的利益尚未得到充分代表。我们报告了人们对为老年人服务的小型AI伴侣机器人的看法，以及随之而来的一系列问题，后者与面部表情、对话数据收集及共享相关。对俄勒冈健康与科学大学的俄勒冈老龄化与技术中心的一个网络群体进行横断面调查并收集数据，调查响应率为45%，分析样本为825人（平均年龄：63.9岁，年龄范围：25‐88岁）。逻辑回归分析了舒适度、数据共享偏好与社会人口特征之间的关系。在大流行期间，仅超过一半(52.3%)的人对AI伴侣机器人感到有些舒适或非常舒适，而45.2%的人则对AI伴侣机器人感到不舒适。在调整后的模型中，年轻、男性、正规教育程度较低以及对计算机使用更有信心等因素与“更有可能对伴侣机器人感到舒适”一事相关。那些对机器人记录对话一事至少感到些许舒适的人(15%)或报告称其可能希望读取其面部表情以用于情绪检测的人(52.8%)也选择了其希望与谁共享这些数据。对自由回答的文本评论进行了主题分析。基本主题是，基于机器人的数据收集构成了过度监控和隐私侵犯，并且参与者预测会出现关于数据隐私、安全和使用的问题。这些关于“潜在用户对数据保护和透明度的重视”的调查结果表明，需要法律和政策采取行动，以创造值得信赖的理想伴侣机器人。

Date: 2023
References: View references in EconPapers View complete reference list from CitEc
Citations:

Downloads: (external link)
https://doi.org/10.18278/jep.2.3.2

Related works:
This item may be available elsewhere in EconPapers: Search for items with the same title.

Export reference: BibTeX RIS (EndNote, ProCite, RefMan) HTML/Text

Persistent link: https://EconPapers.repec.org/RePEc:wly:eldpol:v:2:y:2023:i:3:p:19-54

Access Statistics for this article

More articles in Journal of Elder Policy from John Wiley & Sons
Bibliographic data for series maintained by Wiley Content Delivery ().