MYCIN diagnosticaba mejor que algunos médicos y nunca se usó
En los años sesenta y setenta se escribió en Lisp un programa llamado MYCIN. Reunía el conocimiento de muchos médicos y de muchos libros para diagnosticar infecciones bacterianas y prescribir la medicación.
Era complejo para su época y funcionaba. Tenía mejores resultados que algunos médicos.
Nunca se llevó a la práctica.
Cómo funcionaba, con cinco reglas
Este ejemplo está sobresimplificado a propósito. No hay que memorizar las reglas; hay que ver el encadenamiento.
- Si en el estudio la mancha es Gram positiva, el organismo es estreptococo.
- Si la mancha es Gram negativa, el organismo es E. coli.
- Si el organismo es estreptococo, la penicilina está indicada.
- Si la penicilina está indicada y se desconoce si hay alergia, preguntar por alergia a la penicilina.
- Si la penicilina está indicada y el paciente no es alérgico, prescribir penicilina.
Ahora los hechos de un paciente concreto. Sólo dos:
- La mancha es Gram positiva.
- Es alérgico a la tetraciclina.
La inferencia corre sola. Por la regla 1, el organismo es estreptococo. Por la regla 3, la penicilina está indicada. Por la regla 5, como el paciente es alérgico a la tetraciclina y no a la penicilina, se prescribe penicilina.
Dos hechos, tres saltos, una receta.
(Yo no sé de medicina. Sé que son bacterias y hasta ahí. Para lo que quiero mostrar es irrelevante: el propósito es la lógica.)
Aquí está lo que no es técnico
Alguien que no tiene idea de medicina acaba de llegar a la conclusión de un especialista. Ésa era exactamente la promesa.
Y ése fue exactamente el problema.
Si esta cosa fallaba, ¿quién se iba a hacer responsable?
No hubo respuesta buena. No la del médico, que no revisó cada inferencia. No la del programador, que no examinó al paciente. No la del sistema, que no es nadie. Y no la del hospital, que no participó en ninguna de las dos decisiones.
Un programa que funciona mejor que un humano y que nadie puede firmar no se puede usar. Y eso no cambió con los años; sólo cambió de nombre.
Lo que se necesita para que estos sistemas funcionen
Este tipo de sistemas funcionan a la par de una persona, no en lugar de ella. Alguien tiene que estar comprobando que lo que salió es realmente cierto.
Y hay un motivo concreto, más allá del legal: si confías al cien por ciento, no puedes ver las excepciones. Si existe una excepción que no está en las reglas, el sistema nunca la va a detectar, porque no se adapta y porque no hay nada intermedio entre un caso y otro. La excepción no aparece como error; aparece como una respuesta segura y equivocada.
Ese es el argumento que más me convence para no automatizar del todo una decisión que importa: no es que la máquina se equivoque más, es que se equivoca sin avisar, y sólo alguien que conoce el oficio nota que algo no cuadra.
Y sin embargo
MYCIN tenía una propiedad que hoy suena a lujo: se podía auditar. Cada conclusión venía de reglas concretas que alguien escribió y que se pueden leer, discutir y corregir una por una.
Lo que lo detuvo no fue no saber por qué decidía. Fue no saber quién respondía. Y el hecho de que sigamos sin resolver eso, cincuenta años después y con sistemas mucho menos legibles, es lo que hace que este caso viejo no se sienta viejo.
Este texto sale del episodio 010 del Podcast Algoritmos, sobre sistemas expertos.