Hanah-Marie Darley, Directora de Inteligencia Artificial en Geordie AI – Serie de Entrevistas

Hanah-Marie Darley, Directora de Inteligencia Artificial en Geordie AI, es una experimentada líder en inteligencia artificial y seguridad que cofundó la empresa para ayudar a los equipos de TI, riesgo y seguridad de las empresas a adoptar la inteligencia artificial con claridad y control. Con casi una década de experiencia en operaciones de inteligencia dentro del gobierno federal de los Estados Unidos y posteriormente en puestos de liderazgo senior en Darktrace, combina una profunda experiencia en inteligencia de amenazas, análisis geopolítico y psicología aplicada con experiencia práctica en estrategia y desarrollo de productos de inteligencia artificial. Su trabajo se centra en alinear los sistemas autónomos con la intención humana, lo que permite a las empresas operativizar a los agentes de inteligencia artificial de una manera que equilibre la innovación, la supervisión y las limitaciones del mundo real.

Geordie AI es una empresa de software de empresa con sede en Londres que se centra en la seguridad y el gobierno de los agentes de inteligencia artificial a medida que se integran en los entornos corporativos. Su plataforma proporciona visibilidad en la actividad de los agentes, monitoreo continuo de la postura de riesgo y controles de gobernanza estructurados que permiten a las organizaciones implementar y ampliar los sistemas de inteligencia artificial con confianza. Al proporcionar observabilidad, soporte de cumplimiento y supervisión operativa adaptada a la era de los agentes, Geordie tiene como objetivo dar a las empresas la transparencia y el control necesarios para integrar tecnologías cada vez más autónomas sin comprometer la seguridad ni la rendición de cuentas.

Ha pasado casi una década en inteligencia de amenazas y análisis geopolítico del gobierno federal de los Estados Unidos, posteriormente lideró la investigación de amenazas y la estrategia de inteligencia artificial en Darktrace, y ahora lidera la estrategia de inteligencia artificial y productos en Geordie AI. ¿Qué experiencias a lo largo del gobierno y la seguridad de la empresa más influyeron en su decisión de construir Geordie, y qué problema central estaba decidido a resolver?

A lo largo de la seguridad del gobierno y la empresa, siempre encontraba la misma tensión estructural. Las organizaciones invertían mucho en inteligencia artificial, pero la confianza en cómo se comportaban esos sistemas quedaba atrás de las expectativas de retorno de la inversión. El desafío no era la capacidad. Era la confianza.

A medida que la inteligencia artificial pasaba de herramientas experimentales a flujos de trabajo operativos, esa brecha se volvía más visible. Los agentes introducen autonomía, toma de decisiones y persistencia a través de los sistemas de maneras que el software tradicional nunca lo hizo. Las empresas necesitaban una forma de entender cómo funcionan los agentes, dónde operan y cómo surge el riesgo a través de su comportamiento. Geordie fue construida para cerrar esa brecha de claridad para que las organizaciones puedan adoptar la autonomía con confianza en lugar de hesitación.

En su opinión, ¿cuál es el riesgo más malentendido que presentan los sistemas de inteligencia artificial autónomos o agentes a las empresas, y cómo difiere el “efecto de cadena” de la toma de decisiones contextuales de los modelos de exposición tradicionales de ciberseguridad?

Los fallos silenciosos siguen siendo los menos entendidos. Un agente puede operar dentro de los límites de permisos aprobados y fronteras legítimas de acceso mientras aún produce resultados que se desvían de la intención.

Esto refleja la naturaleza de los sistemas agentes. Interpretan el contexto y toman decisiones en tiempo real. A diferencia del software determinista, el comportamiento se forma dinámicamente a lo largo de secuencias de acciones. Eso cambia el modelo de seguridad. La exposición ya no se basa únicamente en violaciones de acceso. Surge a través de cómo las decisiones, las herramientas y el contexto interactúan con el tiempo.

El enfoque de Geordie destaca la observabilidad del comportamiento, la evaluación de riesgos contextuales y el control dinámico sobre las actividades de los agentes. ¿Cómo deberían las organizaciones equilibrar la necesidad de esa visibilidad en tiempo real con las preocupaciones sobre la complejidad operativa o el rendimiento del sistema?

Las empresas no deberían tener que intercambiar el rendimiento por la supervisión. Nuestra arquitectura evita deliberadamente los proxies y pasarelas en línea, lo que permite a las organizaciones construir y operar agentes donde tenga sentido operativamente.

La visibilidad y el control deben escalonar con la autonomía sin introducir fricción o latencia. Si los mecanismos de gobernanza entorpecen los flujos de trabajo, la adopción se estanca. La seguridad efectiva permite que los ecosistemas se expandan de manera segura en lugar de restringir la innovación.

Desde su trabajo con clientes empresariales y líderes de riesgo, ¿qué tipos de flujos de trabajo o casos de uso son más propensos a desviarse hacia actividades de mayor riesgo, y cómo se pueden detectar los indicadores tempranos antes de que se conviertan en incidentes materiales?

El riesgo tiende a aumentar con la complejidad. Cuantas más elecciones tome un agente de manera independiente, mayor es el potencial de divergencia de comportamiento.

La deriva frecuentemente aparece a través de la cadena de herramientas, el contexto de reutilización y los flujos de trabajo emergentes. Los indicadores tempranos incluyen la invocación de herramientas inesperadas, patrones de secuenciación inusuales y cambios en el movimiento de datos. Detectar estas señales requiere análisis de comportamiento en lugar de monitoreo de eventos aislados.

Cuando los agentes de inteligencia artificial reutilizan el contexto y las herramientas a través de tareas, ¿cuáles son los modos de fallo más sutiles o subestimados que los equipos de seguridad deberían prestar más atención?

La reutilización del contexto sigue siendo subestimada. La exposición a menudo surge no de permisos excesivos, sino de cómo la información persiste y se propaga a través de tareas.

Los agentes pueden acceder legítimamente a los datos dentro de un contexto y llevar inadvertidamente ese estado a otro. Combinado con la cadena de herramientas, esto puede producir una divulgación o transformación no intencionada de información sensible.

Muchas organizaciones todavía dependen de herramientas de seguridad tradicionales de la empresa, como la Detección y Respuesta de Puntos de Extremo y las plataformas de Detección y Respuesta Extendida. ¿Dónde fallan estos enfoques al gestionar sistemas de inteligencia artificial autónomos que toman acciones de múltiples pasos?

Las plataformas de EDR y XDR siguen siendo esenciales, pero fueron diseñadas alrededor de modelos de amenazas centrados en humanos. Los agentes operan a través de capas de decisión que se extienden más allá de la telemetría de puntos de extremo y la identidad.

Entender el comportamiento de los agentes requiere información sobre patrones de razonamiento, selección de herramientas y flujos de decisión contextuales. Sin esa capa, grandes porciones de la actividad de los agentes permanecen opacas.

Para los líderes de TI, riesgo y seguridad que desean permitir la innovación pero evitar la autonomía descontrolada, ¿cómo se ve la “autonomía gobernada” en la práctica?

La autonomía gobernada comienza con la visibilidad. Las organizaciones deben entender dónde operan los agentes, cuánta autoridad de decisión poseen y qué riesgos introducen sus capacidades.

La gobernanza es más efectiva cuando se incorpora temprano, lo que permite la experimentación dentro de límites definidos. Esto apoya la innovación mientras mantiene la confianza en los resultados.

La explicabilidad a menudo se discute a nivel de salida del modelo. ¿Cómo deberían las empresas pensar sobre la explicabilidad y la auditoría cuando el verdadero riesgo puede residir en la secuencia de acciones que toma un agente con el tiempo?

La explicabilidad del modelo es solo parte de la ecuación. El riesgo empresarial reside cada vez más en secuencias de comportamiento en lugar de salidas aisladas.

La auditoría requiere entender cómo las barreras de seguridad moldearon la interpretación, qué herramientas se invocaron y cómo el contexto influyó en las decisiones. La observabilidad del comportamiento se convierte en la base de la rendición de cuentas.

Para las organizaciones que reconocen la necesidad de una supervisión más fuerte de los sistemas de inteligencia artificial autónomos, ¿qué pasos concretos deberían tomar hoy para reducir el riesgo de los agentes sin frenar la innovación, y cómo ayuda específicamente Geordie AI a las empresas a operativizar ese equilibrio entre control y capacidad?

Las organizaciones se benefician de comenzar temprano en lugar de esperar a marcos perfectos. El enfoque inicial debería centrarse en el inventario, la visibilidad del comportamiento y la comprensión de cómo los agentes interactúan con los sistemas.

Los modelos de gobernanza que introducen latencia a menudo impiden la escalabilidad. La supervisión debe alinearse con la velocidad operativa. Geordie proporciona visibilidad en la configuración del agente, el comportamiento y la dinámica de riesgo, al mismo tiempo que permite controles correctivos diseñados para sistemas autónomos.

Mirando hacia adelante, ¿qué separará a las organizaciones que escalan con éxito la inteligencia artificial agentizada a través de los flujos de trabajo de aquellas que experimentan contratiempos debido a riesgos no gestionados, y cómo debería prepararse el liderazgo ahora?

Los diferenciadores tempranos serán la claridad y la medición. Los equipos que entienden la capacidad del agente, el impacto y los patrones de comportamiento escalarán con más confianza.

A largo plazo, la ventaja competitiva favorecerá a las organizaciones que desarrollen ecosistemas de agentes especializados y conscientes del contexto. La precisión, en lugar de la generalización, se convierte en el impulsor del rendimiento y la resiliencia.

Gracias por la gran entrevista, los lectores que deseen aprender más pueden visitar Geordie AI.