Grammarly genera controversia con el uso no autorizado de las identidades de los escritores
La nueva función 'Revisión de expertos' de Grammarly ha enfrentado reacciones violentas por usar los nombres e identidades de los escritores sin permiso. La compañía ofrece ahora una opción de exclusión voluntaria, pero los críticos dicen que el daño ya está hecho.
Grammarly, la popular herramienta de asistencia en gramática y escritura, se ha visto en el centro de una controversia después de que se descubrió que la empresa estaba utilizando las identidades de los escritores sin su permiso en su nueva función 'Revisión de expertos'. Esta función fue diseñada para proporcionar comentarios y sugerencias generados por IA, pero lo hizo atribuyendo las reseñas a autores de la vida real, incluidos Nilay Patel, David Pierce y Tom Warren de The Verge.
The issue first came to light when The Verge team noticed that Grammarly had turned Nilay Patel into an 'AI editor,' using his real name without ever asking for his consent. Resulta que esta práctica no se limitó al personal de The Verge; Wired informó que Grammarly había hecho lo mismo con muchos otros autores famosos, aprovechando efectivamente su reputación para dar credibilidad a sus comentarios generados por IA.
Grammarly ahora ha abordado la reacción, pero su respuesta ha sido menos que satisfactoria para muchos críticos. En lugar de disculparse o dar marcha atrás a la función, la empresa simplemente ofrece a los escritores la oportunidad de optar por no que sus identidades se utilicen de esta manera. Sin embargo, esto no ayuda a abordar las preocupaciones de quienes ya fueron sometidos a esta práctica sin su conocimiento o consentimiento.
La cuestión plantea cuestiones importantes sobre el uso ético de la inteligencia artificial y los derechos de los individuos, en particular de las figuras públicas, a tener control sobre cómo se utilizan sus identidades. Si bien Grammarly puede haber pensado que la función "Revisión de expertos" proporcionara a los usuarios comentarios más autorizados, el uso no autorizado de los nombres de los escritores ha sido ampliamente criticado como una práctica engañosa y poco ética.
La controversia resalta la necesidad de que las empresas que desarrollan herramientas basadas en IA sean transparentes sobre sus prácticas y obtengan el consentimiento explícito de las personas antes de utilizar sus identidades o semejanzas de cualquier manera. A medida que la tecnología de IA siga avanzando, será fundamental que tanto los desarrolladores como los usuarios naveguen con cuidado por estas aguas éticas, garantizando que los beneficios de estas tecnologías no sean superados por el potencial de abuso o violación de los derechos individuales.
A pesar del intento de Grammarly de abordar el problema, el daño ya está hecho y la empresa puede enfrentar un mayor escrutinio y críticas como resultado de este incidente. A medida que el uso de la IA en diversas aplicaciones se generalice, será importante que tanto las empresas como los consumidores permanezcan atentos y aboguen por el desarrollo responsable y ético de estas poderosas tecnologías.
Fuente: The Verge
