El surgimiento de la inteligencia artificial generativa ha llevado a un inquietante fenómeno en las redes sociales: la creación de «TikDocs» que explotan la confianza del público en la profesión médica para impulsar la venta de suplementos cuestionables. Estas herramientas de IA, que antes estaban limitadas a laboratorios de investigación, ahora están disponibles para cualquiera, incluidos aquellos con intenciones maliciosas que utilizan la tecnología de deepfake para engañar.
Los investigadores de ESET en América Latina han detectado una campaña en TikTok e Instagram en la que avatares generados por IA se presentan como profesionales de la salud, como ginecólogos y dietistas, con el objetivo de promocionar productos de bienestar. Estos videos, que suelen estar bien producidos y ser persuasivos, disfrazan sus mensajes comerciales como recomendaciones médicas, llevando a los consumidores a realizar compras arriesgadas y potencialmente dañinas.
En este tipo de contenido, un avatar parlante entrega consejos sobre salud y belleza, mostrando una aparente autoridad en el tema. Las recomendaciones suelen basarse en “remedios naturales” que dirigen a los espectadores hacia productos en venta, aprovechando la confianza que la gente tiene en los profesionales de la salud.
En un caso particular, un «médico» promovía un «extracto natural» como alternativa superior a un medicamento conocido por ayudar a la pérdida de peso. El video prometía resultados dramáticos y conducía a una página de Amazon, donde el producto se describía como «gotas de relajación» o «ayudas para la inflamación», sin relación alguna con los beneficios prometidos.
Los videos no se limitan a suplementos inofensivos; algunos promueven medicamentos no aprobados o curas falsas para enfermedades graves, incluso utilizando la imagen de médicos reales. Con herramientas de IA accesibles que permiten crear avatares a partir de fragmentos de video, esta práctica engañosa se ha vuelto alarmantemente fácil.
Investigaciones revelaron más de 20 cuentas en TikTok e Instagram que emplean doctores deepfake para comercializar sus productos. Uno de estos avatares, que se presentaba como ginecóloga con 13 años de experiencia, se relacionaba directamente con la biblioteca de avatares de la aplicación, lo que demuestra cómo estas tecnologías pueden ser mal utilizadas, violando los términos de uso de las herramientas de IA.
Las implicaciones de estas prácticas trascienden la venta de suplementos poco confiables. La proliferación de deepfakes puede socavar la confianza en los consejos de salud disponibles en línea, promoviendo «remedios» dañinos y retrasando tratamientos adecuados.
Identificar estos videos falsos se vuelve cada vez más difícil. No obstante, existen algunas señales que pueden ayudar a los usuarios a reconocerlos: movimientos de labios que no coinciden con el audio, expresiones faciales rígidas, voces robóticas, cuentas nuevas y poco confiables, o afirmaciones exageradas como «curas milagrosas». Además, siempre es recomendable verificar la información con fuentes médicas de confianza.
A medida que las herramientas de IA continúan evolucionando, distinguir entre contenido auténtico y fabricado será un desafío constante. Esto subraya la necesidad de desarrollar salvaguardias tecnológicas y mejorar nuestra alfabetización digital colectiva para protegernos de la desinformación y de engaños que podrían afectar nuestra salud y bienestar financiero.
Fuente: WeLiveSecurity by eSet.
