Emprendimiento

IA Comete Errores Graves: ¿Quién Asume la Responsabilidad? Gerentes Divididos y el Dilema de la Rendición de Cuentas

HELPTEK Blog

•

14 de Octubre, 2026

•

⏱️ 4 min de lectura

IA Comete Errores Graves: ¿Quién Asume la Responsabilidad? Gerentes Divididos y el Dilema de la Rendición de Cuentas

Un estudio de Wharton revela un creciente problema de rendición de cuentas a medida que las empresas delegan decisiones de mayor impacto a la inteligencia artificial.

📌 Puntos Clave

  • Los gerentes de trabajo no se ponen de acuerdo sobre quién es responsable de los errores de la IA, según un nuevo estudio.
  • Aproximadamente una cuarta parte de los encuestados señaló al empleado que utiliza el agente, mientras que otra cuarta parte culpó al gerente de ese empleado.
  • Empresas como Google, OpenAI y Meta están otorgando a los sistemas de IA una mayor responsabilidad, aumentando el impacto potencial de los errores.

Cuando la IA comete un error, comienza el juego de la culpa.

Investigadores de la Wharton School de la Universidad de Pensilvania descubrieron recientemente que los gerentes están divididos sobre quién es responsable cuando los sistemas de IA cometen errores “consecuentes”. Su estudio reciente encontró un creciente problema de rendición de cuentas a medida que las empresas delegan más responsabilidades a la IA.

Cuando un bot de IA comete un error grave, los gerentes no se ponen de acuerdo sobre quién debe responder por ello. Aproximadamente una cuarta parte señaló al empleado que utiliza la herramienta, otra cuarta parte nombró al gerente de ese empleado y una proporción similar eligió al equipo de riesgos de la empresa. Alrededor del 10% culpó al proveedor de IA, mientras que aproximadamente el mismo porcentaje no estaba seguro.

La encuesta incluyó a más de 1,000 líderes empresariales, incluidos gerentes, directores, ejecutivos, propietarios y fundadores.

Ejemplos de automatización que salió mal

Los temores sobre los sistemas de IA que actúan por sí solos han llamado la atención en los últimos meses. Sin embargo, para las empresas, el peligro más inmediato pueden ser situaciones más simples. Una instrucción vaga o un pequeño error en el prompt pueden generar problemas mayores cuando un agente de IA puede acceder a herramientas en vivo como correos electrónicos de empleados o datos de clientes.

Leeron Walter, vicepresidente de la empresa de software de monitoreo de empleados Teramind, dijo recientemente a Bloomberg que las empresas ya están encontrando ese tipo de problemas más simples.

Walter citó un caso que involucró a un importante minorista estadounidense donde un empleado usó IA para automatizar correos electrónicos de clientes. Un error en las instrucciones del bot lo llevó a enviar mensajes falsos de reembolso y cancelación a más de 18,000 clientes en menos de seis horas, lo que provocó miles de solicitudes de servicio.

Walter también describió una empresa estadounidense de electrónica de consumo donde un empleado de marketing usó IA para establecer y publicar precios de productos. Un error en el prompt listó uno de los dispositivos insignia de la compañía con un 85% de descuento durante tres horas. Más de 700 clientes realizaron pedidos antes de que la compañía corrigiera el error, y su equipo de servicio al cliente pasó semanas lidiando con las consecuencias.

Los avances recientes de la IA significan que la tecnología puede hacer más

La rendición de cuentas se vuelve más urgente a medida que las principales empresas tecnológicas lanzan agentes de IA que pueden hacer más que responder preguntas. Por ejemplo, OpenAI presentó Dots a finales del mes pasado. Estos agentes siempre activos pueden conectarse a más de 4,000 aplicaciones y seguir trabajando en proyectos entre las revisiones del usuario. OpenAI también está desarrollando versiones de IA para el lugar de trabajo con sus propias credenciales y acceso a los sistemas de la empresa.

Mientras tanto, Google anunció su agente Gemini para usuarios empresariales a principios de este mes. La herramienta puede planificar y completar trabajos de varios pasos en los sistemas de la empresa, incluida la redacción de contenido y la escritura de código.

Meta presentó Muse el mes pasado como un agente personal que puede gestionar tareas de correo electrónico y reservas de viajes, y continuar trabajando en pendientes incluso después de que un usuario abandone la aplicación. La aplicación Muse también ha ganado una tracción temprana, alcanzando más de 2.5 millones de descargas en sus primeras dos semanas, según datos de Sensor Tower compartidos con CBS News.

La IA ya se está convirtiendo en parte del proceso de compra. Una investigación reciente de IBM muestra que el 41% de los consumidores utilizan asistentes de IA para investigar productos, mientras que el 31% recurre a ellos para encontrar ofertas.

Fuente Original:
Artículo traducido y adaptado desde https://www.entrepreneur.com/business-news/wharton-study-ai-mistake-who-is-to-blame.

¿Listo para llevar la tecnología de tu negocio al siguiente nivel?

En HELPTEK unificamos TI, Redes, Ciberseguridad e Inteligencia Artificial para potenciar el crecimiento de tu empresa.


Solicitar Auditoría Tecnológica Gratuita →

🔥 ¿Listo para mejorar tu tecnología?

Agenda tu Auditoría Gratuita →
💬