194 BIM, IA y legalidad con Jorge Morell

194 BIM, IA y legalidad con Jorge Morell

Antes de lanzarnos a desgranar los puntos más jugosos del episodio, hay algo que conviene admitir: todos estamos usando IA mucho más alegremente de lo que estamos dispuestos a reconocer. La metemos en nuestros flujos BIM como quien añade sal a la comida: a ojo, sin medir y confiando en que la magia funcione. Pero claro, cuando empiezas a rascar un poco aparecen preguntas incómodas sobre privacidad, derechos, responsabilidades y algún que otro marrón que preferirías no tener que gestionar.

Este episodio, con la ayuda de Jorge Morell, nos obliga a mirar de frente lo que ocurre cuando mezclamos BIM e IA sin red de seguridad. Desde datos personales escondidos en modelos hasta información confidencial que termina en servidores que no controlas, pasando por la tendencia suicida a confiar en outputs generados por sistemas que también se inventan cosas. Así que antes de que te pille el toro (o el regulador), aquí van los puntos clave que deberías tener tatuados en la frente.

La falsa sensación de seguridad al usar IA

Cada vez utilizamos más IA para redactar informes, analizar documentos o resumir entregables. Pero lo hacemos desde la despreocupación absoluta, como si estas herramientas fueran cajas negras neutras. Jorge pone el foco en algo que muchos olvidan: cada vez que subimos contenido estamos haciendo una cesión de información, voluntaria o no, que puede tener implicaciones legales importantes. La comodidad es enorme, pero el riesgo también.

El peligro invisible de los datos personales en BIM

Uno de los aspectos más críticos es la presencia de datos personales incrustados en modelos o documentos sin que seamos conscientes de ello. Nombres de autores, responsables de obra, información sensible en metadatos o incluso capturas de pantalla. Todo eso, cuando se sube a una IA, puede quedar registrado, replicado o reutilizado. Y aquí entra de lleno el RGPD, con sus consecuencias legales y económicas.

Confidencialidad y secretos empresariales en manos de terceros

Los modelos y documentos BIM no solo contienen geometría: contienen decisiones estratégicas, costes, procesos internos y conocimiento empresarial. En el momento en que esa información viaja a una IA, pasa a un entorno donde puede ser tratada, usada o almacenada sin que tengamos control. Jorge explica por qué esto es especialmente delicado y cómo muchas empresas están comprometiendo su propia ventaja competitiva sin quererlo.

La IA como junior, no como apoderado

Uno de los conceptos clave del episodio es entender la IA como un becario muy capaz pero sin criterio profesional. El riesgo surge cuando se le otorga la autoridad de un apoderado: copiamos su output, lo damos por bueno y lo firmamos. Los errores, sesgos o alucinaciones del sistema pasan a ser responsabilidad nuestra. Y en un entorno técnico como BIM, ese salto puede tener consecuencias graves.

El caso Deloitte Australia: un aviso serio para todo el sector

Comentamos un ejemplo real donde un informe generado parcialmente con IA contenía decenas de errores y referencias inventadas. El resultado fue una devolución millonaria del contrato. Este caso demuestra que los fallos de la IA no son anecdóticos y que la revisión humana rigurosa no es opcional: es imprescindible.

La transformación (y relajación) del marco legal europeo

Europa está revisando el RGPD y preparando un nuevo marco regulatorio para la IA. Contra lo que muchos imaginan, la tendencia no es endurecer, sino flexibilizar y simplificar. Se eliminan obligaciones, se relajan requisitos y se modula el cumplimiento. Esto deja un escenario incierto: más libertad para innovar, pero también más ambigüedad sobre los riesgos.

La Data Act y su impacto directo en BIM

La Data Act redefine cómo se generan, comparten y utilizan los datos no personales. En BIM —donde los modelos son bombas de datos estructurados y no estructurados— esta regulación afectará a flujos de trabajo, interoperabilidad, acceso a la información y derechos de uso. El sector no está preparado para ello, pero el cambio ya está en marcha.

Propiedad intelectual: el conflicto que llegará antes que todos

Quizá el punto más contundente del episodio: para Jorge, el primer gran choque legal que vivirá el BIM en relación con la IA será por propiedad intelectual. ¿Quién es el autor de un modelo? ¿Quién es el autor de un documento modificado por IA? ¿Qué pasa cuando la IA genera contenido usando nuestros datos? Este debate, hoy anecdótico, será el epicentro del conflicto en muy poco tiempo.

Recursos citados en el episodio

• The Legal Letters, proyecto de divulgación jurídica impulsado por Jorge Morell, centrado en explicar de forma clara y accesible las implicaciones legales del uso de tecnologías digitales e IA

• Reglamento General de Protección de Datos (RGPD), la normativa europea que regula el tratamiento de datos personales y que impacta directamente en cualquier proceso BIM que utilice IA.

• Data Act (Reglamento de Datos de la UE), norma europea que establece cómo se generan, comparten y utilizan los datos no personales, clave para el tratamiento del dato en BIM y en entornos colaborativos.

• Caso Deloitte Australia, un informe elaborado con ayuda de IA que contenía errores y referencias inventadas, lo que obligó a Deloitte a devolver honorarios por un valor de cientos de miles de dólares.

• ChatGPT (IA generativa), herramienta de IA generativa usada ampliamente para redactar, resumir y transformar documentos, con riesgos asociados cuando se introducen datos sensibles.

• Identidad Digital Europea (EUDI Wallet), iniciativa de la Unión Europea para crear una identidad digital única y segura para ciudadanos y empresas, mencionada en el episodio dentro del contexto regulatorio.