La mente no es suficiente

En Modelling social actions for AI agents, Castelfranchi describe detalladamente los requerimientos de la arquitectura individual para que un agente racional sea social y colaborativo. Sin embargo, advierte que estos no son suficientes para que emerja una organización entre agentes colaboradores. La mente no es suficiente -dice- ya que existen estructuras de dependencias entre los agentes de un sistema que son determinantes respecto a sus posibilidades de colaboración (más aún que la arquitectura individual de los agentes).

En este sentido, apunta a que estas redes de dependencias juegan un rol causal en las dinámicas del sistema: como estructuras sociales, emergentes y no-planificadas que permiten que se manifiesten formas de cooperación no-basadas en creencias mutuas o acuerdos. Es decir, formas de cooperación basadas en el conocimiento del entorno (i.e. los agentes interactuan con el entorno y posteriormente realizan inferencias tipo en-este-estado-de-entorno-haciendo-esto-consigo-aquello). Formas de cooperación, que emergen de la experiencia y por lo tanto requieren de acción, como las que queremos estudiar en nuestra investigación sobre Estructuras Auto-Organizadas Emergentes en POMDPs colaborativos.

Esta observación de Castelfranchi, que pone el foco en la red de dependencias más que en la arquitectura individual de los agentes, permite entender la mayoría de críticas respecto a los modelos de SMA colaborativos que subrayan que es común dar por hecho que los agentes son benevolentes, que siempre estan dispuestos a colaborar y que siempre desean actuar en pos del bien común… Es decir que más allá la arquitectura individual (altruista) de los agentes no se presta la atención suficiente a la manera en como estos son interdependientes y se interfieren entre sí. Con lo cual, estos modelos artificiales corren el riesgo de caer en buenismos  ya que sólo asumen modelos sociales basados en el altruismo.

Por eso nuestro enfoque propone estudiar la emergencia de estructuras auto-organizadas como sociedades de agentes racionales, no a través de la mente, y por lo tanto sin asumir agentes altruistas, sino asumiendo un entorno profundamente colaborativo. Es decir planteando que: si un entorno es colaborativo, a pesar de que los agentes sean racionales self-interested (i.e. que no tengan la voluntad de colaborar entre ellos, sinó sólo actuar en pos de maximizar su utilidad individual), estos van a terminar adoptando comportamientos colaborativos, puesto que la única manera de maximizar su utilidad individual es maximizando la utilidad global (i.e. colaborando entre ellos). Este enfoque surge de una inquietud antropológica, de una reflexión sobre como percibimos el entorno donde operamos, que se podría resumir con la hipótesis siguiente: hay entornos que son colaborativos, pero los agentes no los pueden llegar a percibir como tal y por lo tanto emprenden acciones competitivas.

Este cambio de foco -de arquitectura individual a redes de dependencias- puede ser muy fructífero para la búsqueda de modelos adaptativos. Ya que implica dejar de pensar en términos de objetivos (goal-oriented) y pensar en términos de utilidad, lo que permite invocar imaginarios muy diferentes: cuando pensamos en utilidad, podemos pensar en un entorno sin estados terminales,  dónde un agente aprende a sobrevivir entregado a un continuo, hay una idea de flujo constante implícita en la metáfora. Pura adaptabilidad. Sin embargo, si pensamos en términos de objetivos, este continuo se convierte en una concatenación intermitente de estados-terminales-alcanzados-y-estados-terminales-por-alcanzar. Fragmentando la idea de una agencia emergente (adaptativa) que va evolucionando, para deconstruirla en pequeñas metas-a-alcanzar que se anidan en jerarquías de otras-metas-a-alcanzar.

Y es que aunque es importante dejar claro que alcanzar un objetivo es equivalente a maximizar la utilidad (en jergas específicas de diferentes sub-areas de la IA) el uso de la terminología reinforced (i.e. hablar de utilidad) contribuye a incidir en  enfoques más bioinspirados -como el que proponemos- evocando metáforas más cercanas a todo aquello adaptativo como la sopa primordial, los ecosistemas, la emergencia de organismos multicelulares. Todo evoca a las estrategias individuales para la supervivencia (a pesar de que se logra a través de la cooperación). Sin embargo,  si usamos terminologías mindreading ponemos el foco en las creencias o estados mentales de los otros agentes, dónde la cooperación surge desde un lugar no tant visceral. Y la cooperación es algo visceral, algo que sólo tiene sentido cuando ayuda a mejorar la utilidad de los que la ejercen, cuando es un consecuente.

Así que dejemos de centrarnos en lo-que-pensamos-que-piensan los otros y exploremos profundamente el entorno, de manera distribuída, para descubrir si realmente es cooperativo. Y si lo es, fluyamos!

Re-imagining Value: Insights from the Care Economy, Commons, Cyberspace and Nature

Una recopilación de puntos de vista y conclusiones sobre el significado de “valor” en artefactos socio-tecnológicos colaborativos en formato libro. Es muy interesante para aquellos que estamos interesados en indagar en nuevos protocolos para que un artefacto socio-tecnológico colaborativo auto-emergente pueda mantener su performance ante entornos dinámicos, de alguna manera este libro por un lado (i) recoge los diferentes retos, y preguntas que surgen de los estudiosos sobre el tema – estudiosos o profesionales con reputación por su experiencia- (como por ejemplo si es necesario cuantificar el valor a través de la abstracción para formas alternativas de intercambio, las implicaciones de convertir un valor generado de manera commons-based o en comunidad a un equivalente monetario, los pros, contras y requerimientos de una value sovereignity, nuevas propuestas para una teoría del valor superadora…). Y por otro lado (ii) presenta diferentes ejemplos reales de grupos u organizaciones que operan bajo protocolos postcapitalistas o P2P: sensorica.co y las open value networks, enspiral, y proyectos como metacurrecy (el más inspirador para mi y mi investigación) o neo-tribe (de inspiración etnográfica). En otras palabras, por un lado, es un ensayo sobre el término “valor”, sus implicaciones, alternativas y retos pendientes, y por otro lado,  se puede ver como un trabajo proto-etnográfico para definir un objeto de estudio.

Para nuestra investigación, más concretamente responde a la pregunta de impacto: ¿a quién puede beneficiar lo que estamos descubriendo?

Además, nos aporta mucha información valiosa para ver qué modelos de intercambio pueden ser propensos a mostrar deadlocks o de qué manera podemos aportar a la conceptualización del término valor desde la perspectiva del aprendizaje automático (y más concretamente del RL) donde los agentes (que son racionales) operan (i.e. eligen sus acciones) en base a estimaciones de utilidad a largo plazo. Por lo que planteamos nuevos tópicos para ampliar o complemetar la reflexión presentada en el libro desde el campo de la IA: ¿qué papel juega la confianza respeto al feedback que puede proveernos el valor generado, en términos de retorno a corto plazo o largo plazo?  Planteamos que quizás nos está faltando la capacidad de poder ver como nos retornaría este valor a largo plazo… y que por este motivo perdemos confianza en el sistema (en cualquiera que no sea el monetario).

Aún estoy leyendo los últimos apendices, pero me pareció esclarecedor, y de consulta obligatoria para cualquiera que quiera ir al hueso de la cuestión para empezar a reflexionar o investigar fenómenos relacionados con las economías colaborativas (desde la sharing economy hasta el commons-based, pasando por el platform cooperativism).