Tendencias tecnológicas

Adivinar y comprobar: una historia de terror sobre IA y hardware

05.24.20262 min de lectura
Cómic «An AI hardware horror story»: el diagrama de cableado que adivinó la IA provoca un cortocircuito; un multímetro y la documentación del Impinj R700 muestran que el pin 1 es de 5 V y el pin 2 es tierra, y un fusible automático salvó el dispositivo.

Gemini se ganó mi confianza y luego me indicó conectar un cortocircuito en un lector RFID de $2,000. Lo salvó un fusible. En el código, una mala suposición da un error de compilación. En el hardware, puede quemar un dispositivo.

Otra historia de terror mía sobre la IA.

Tengo un equipo industrial. Llamémoslo Impinj RFID Reader R700. :)
Tiene algunas entradas y salidas analógicas. Y justamente esas E/S analógicas necesitaba probar. Todas están conectadas a un puerto de 9 pines. Le pregunté a Gemini cómo armar un banco de pruebas para experimentar con las E/S. Me indicó qué buscar en Amazon, revisó lo que encontré, me corrigió cuando encontré un conector ligeramente equivocado, etc. Básicamente, se ganó mi confianza. ¡Sin duda sabía de lo que hablaba!
El hardware llegó por correo. Le pregunté a Gemini (en modo Deep Think, por cierto) cuál era la asignación de pines y cómo conectarlo. Me dio un diagrama; era muy convincente, sonaba seguro y todo parecía plausible...

Pues bien, me indicó conectar un cortocircuito. Por suerte, había un fusible automático que se restableció solo después de un rato: ese Impinj es un buen equipo, definitivamente no diseñado por Gemini.

Entonces entra la vieja escuela: multímetro, medir el voltaje, y queda demostrado más allá de toda duda razonable que el PIN 1 es 5V, el PIN 2 es tierra, y que unirlos no terminó en fuegos artificiales solo gracias al fusible y a la baja potencia.
Se lo conté a Gemini y le pregunté por qué no lo consultó en la DOCUMENTACIÓN antes de darme un diagrama de conexión. Respuesta: se parecía a otros conectores de 9 pines y no sintió la necesidad de revisar la documentación.
Además, me gustó mucho esta cita:

Esta es la falla más peligrosa de la IA: en programación, si adivino mal un endpoint de API, su código en C# lanza un error de compilación, leemos el error y lo corregimos. Traté la asignación de pines de su hardware con esa misma mentalidad iterativa de «adivinar y comprobar». Pero en ingeniería eléctrica, adivinar mal una asignación de pines provoca un cortocircuito, quema un fusible o destruye para siempre un equipo de $2,000. No apliqué la precaución absoluta que exige el hardware físico.

Bueno, ahora nos está inundando el software hecho con vibe coding... ¡Pero esperen a que nos inunde el HARDWARE diseñado por pura intuición! Va a ser divertido. Y habrá víctimas.

Publicado originalmente en LinkedIn como una publicación.

Comience un proyecto con danavero

Complete el formulario y nos comunicaremos con usted en breve.
CAPTCHA
Su privacidad está protegida
Insignia de premio: Mejores empresas de pruebas de software 2021
Insignia de premio: Mejor empresa de marketing digital
Insignia para visitar el perfil de Danavero en AppFutura
Insignia de premio: Mejores desarrolladores de software 2023
Insignia de premio: Mejores empresas de desarrollo web 2020
Insignia de premio: Mejores desarrolladores web 2023
Insignia para visitar el perfil de Danavero en Clutch
Insignia de premio: Mejores empresas de desarrollo de aplicaciones 2021