La mente no es suficiente

En Modelling social actions for AI agents, Castelfranchi describe detalladamente los requerimientos de la arquitectura individual para que un agente racional sea social y colaborativo. Sin embargo, advierte que estos no son suficientes para que emerja una organización entre agentes colaboradores. La mente no es suficiente -dice- ya que existen estructuras de dependencias entre los agentes de un sistema que son determinantes respecto a sus posibilidades de colaboración (más aún que la arquitectura individual de los agentes).

En este sentido, apunta a que estas redes de dependencias juegan un rol causal en las dinámicas del sistema: como estructuras sociales, emergentes y no-planificadas que permiten que se manifiesten formas de cooperación no-basadas en creencias mutuas o acuerdos. Es decir, formas de cooperación basadas en el conocimiento del entorno (i.e. los agentes interactuan con el entorno y posteriormente realizan inferencias tipo en-este-estado-de-entorno-haciendo-esto-consigo-aquello). Formas de cooperación, que emergen de la experiencia y por lo tanto requieren de acción, como las que queremos estudiar en nuestra investigación sobre Estructuras Auto-Organizadas Emergentes en POMDPs colaborativos.

Esta observación de Castelfranchi, que pone el foco en la red de dependencias más que en la arquitectura individual de los agentes, permite entender la mayoría de críticas respecto a los modelos de SMA colaborativos que subrayan que es común dar por hecho que los agentes son benevolentes, que siempre estan dispuestos a colaborar y que siempre desean actuar en pos del bien común… Es decir que más allá la arquitectura individual (altruista) de los agentes no se presta la atención suficiente a la manera en como estos son interdependientes y se interfieren entre sí. Con lo cual, estos modelos artificiales corren el riesgo de caer en buenismos  ya que sólo asumen modelos sociales basados en el altruismo.

Por eso nuestro enfoque propone estudiar la emergencia de estructuras auto-organizadas como sociedades de agentes racionales, no a través de la mente, y por lo tanto sin asumir agentes altruistas, sino asumiendo un entorno profundamente colaborativo. Es decir planteando que: si un entorno es colaborativo, a pesar de que los agentes sean racionales self-interested (i.e. que no tengan la voluntad de colaborar entre ellos, sinó sólo actuar en pos de maximizar su utilidad individual), estos van a terminar adoptando comportamientos colaborativos, puesto que la única manera de maximizar su utilidad individual es maximizando la utilidad global (i.e. colaborando entre ellos). Este enfoque surge de una inquietud antropológica, de una reflexión sobre como percibimos el entorno donde operamos, que se podría resumir con la hipótesis siguiente: hay entornos que son colaborativos, pero los agentes no los pueden llegar a percibir como tal y por lo tanto emprenden acciones competitivas.

Este cambio de foco -de arquitectura individual a redes de dependencias- puede ser muy fructífero para la búsqueda de modelos adaptativos. Ya que implica dejar de pensar en términos de objetivos (goal-oriented) y pensar en términos de utilidad, lo que permite invocar imaginarios muy diferentes: cuando pensamos en utilidad, podemos pensar en un entorno sin estados terminales,  dónde un agente aprende a sobrevivir entregado a un continuo, hay una idea de flujo constante implícita en la metáfora. Pura adaptabilidad. Sin embargo, si pensamos en términos de objetivos, este continuo se convierte en una concatenación intermitente de estados-terminales-alcanzados-y-estados-terminales-por-alcanzar. Fragmentando la idea de una agencia emergente (adaptativa) que va evolucionando, para deconstruirla en pequeñas metas-a-alcanzar que se anidan en jerarquías de otras-metas-a-alcanzar.

Y es que aunque es importante dejar claro que alcanzar un objetivo es equivalente a maximizar la utilidad (en jergas específicas de diferentes sub-areas de la IA) el uso de la terminología reinforced (i.e. hablar de utilidad) contribuye a incidir en  enfoques más bioinspirados -como el que proponemos- evocando metáforas más cercanas a todo aquello adaptativo como la sopa primordial, los ecosistemas, la emergencia de organismos multicelulares. Todo evoca a las estrategias individuales para la supervivencia (a pesar de que se logra a través de la cooperación). Sin embargo,  si usamos terminologías mindreading ponemos el foco en las creencias o estados mentales de los otros agentes, dónde la cooperación surge desde un lugar no tant visceral. Y la cooperación es algo visceral, algo que sólo tiene sentido cuando ayuda a mejorar la utilidad de los que la ejercen, cuando es un consecuente.

Así que dejemos de centrarnos en lo-que-pensamos-que-piensan los otros y exploremos profundamente el entorno, de manera distribuída, para descubrir si realmente es cooperativo. Y si lo es, fluyamos!

Re-imagining Value: Insights from the Care Economy, Commons, Cyberspace and Nature

Una recopilación de puntos de vista y conclusiones sobre el significado de “valor” en artefactos socio-tecnológicos colaborativos en formato libro. Es muy interesante para aquellos que estamos interesados en indagar en nuevos protocolos para que un artefacto socio-tecnológico colaborativo auto-emergente pueda mantener su performance ante entornos dinámicos, de alguna manera este libro por un lado (i) recoge los diferentes retos, y preguntas que surgen de los estudiosos sobre el tema – estudiosos o profesionales con reputación por su experiencia- (como por ejemplo si es necesario cuantificar el valor a través de la abstracción para formas alternativas de intercambio, las implicaciones de convertir un valor generado de manera commons-based o en comunidad a un equivalente monetario, los pros, contras y requerimientos de una value sovereignity, nuevas propuestas para una teoría del valor superadora…). Y por otro lado (ii) presenta diferentes ejemplos reales de grupos u organizaciones que operan bajo protocolos postcapitalistas o P2P: sensorica.co y las open value networks, enspiral, y proyectos como metacurrecy (el más inspirador para mi y mi investigación) o neo-tribe (de inspiración etnográfica). En otras palabras, por un lado, es un ensayo sobre el término “valor”, sus implicaciones, alternativas y retos pendientes, y por otro lado,  se puede ver como un trabajo proto-etnográfico para definir un objeto de estudio.

Para nuestra investigación, más concretamente responde a la pregunta de impacto: ¿a quién puede beneficiar lo que estamos descubriendo?

Además, nos aporta mucha información valiosa para ver qué modelos de intercambio pueden ser propensos a mostrar deadlocks o de qué manera podemos aportar a la conceptualización del término valor desde la perspectiva del aprendizaje automático (y más concretamente del RL) donde los agentes (que son racionales) operan (i.e. eligen sus acciones) en base a estimaciones de utilidad a largo plazo. Por lo que planteamos nuevos tópicos para ampliar o complemetar la reflexión presentada en el libro desde el campo de la IA: ¿qué papel juega la confianza respeto al feedback que puede proveernos el valor generado, en términos de retorno a corto plazo o largo plazo?  Planteamos que quizás nos está faltando la capacidad de poder ver como nos retornaría este valor a largo plazo… y que por este motivo perdemos confianza en el sistema (en cualquiera que no sea el monetario).

Aún estoy leyendo los últimos apendices, pero me pareció esclarecedor, y de consulta obligatoria para cualquiera que quiera ir al hueso de la cuestión para empezar a reflexionar o investigar fenómenos relacionados con las economías colaborativas (desde la sharing economy hasta el commons-based, pasando por el platform cooperativism).

Complejidad y Caos, una exploración antropológica

Hace poco terminé de leer el libro que da título a este post, obra de Carlos Reynoso de la UBA,  una referencia en el campo de la antropología (él) y un ejercicio artístico-epistemológico (el libro) que sin duda ha pasado a formar parte de mis referencias outstanding. Sin embargo, mucho antes de terminar la lectura, este ya me había generado grandes contradicciones (respeto a mis ideas o posturas relativas al binomio antropología y cibernética) ya que Reynoso carga con una racionalidad feroz contra Bateson, Prigogine, Morin y Capra (creo que Capra es el que se lleva la peor parte)… Hablando con Elisenda (mi gran mentora y amiga en cuestiones antropológicas) convenía en que la antropología como ciencia no tiene una postura clara respeto a la cibernética- y en caso de tenerla- concluye que la cibernética es una teoría defectuosa para explicar la relación hombre-naturaleza… Recomiendo esta lectura, densa, compleja pero a la vez esclarecedora, a todos aquellos que como yo tratan de repensar las herramientas y teorías que provienen de las ciéncias artificiales para utilizarlas para el estudio de fenómenos sociales…

Como leí hace poco en un paper de Filosofía de la Mente: I leave it to the reader to DYOC (Draw Your Own Conclusion)

Organización en red y conexiones neuronales

A través de la selección semanal de las Delicacies de Petervan, descubro este post del Institute of Network Cultures, un diálogo asincrónico entre Geert Loving y Miles Englezou a través del cual se pone luz a las similitudes y diferencias que existen entre las conexiones neuronales del cerebro humano y las conexiones (mediadas tecnológicamente) entre individuos.  Una perspectiva bioinspirada de como debería ser el futuro de la estructura de internet para superar la recentralización.

Entre otras cosas, me ha servido para reafirmar algunas intuiciones que estoy plasmando en mi investigación, como por ejemplo que los mecanismos para la coordinación son artefactos artificiales, limitadores, que nunca podrán substituir la flexibilidad y adaptabilidad que brindan los procesos de auto-organización co-emergentes. A continuación, adjunto parte del mail que abrió el diálogo, aunque recomiendo la lectura completa del post:

Your concept of ‘organised networks’ reminded me of what I have learned about the brain. I’m currently at the end of a neuroscience master’s degree. Incidentally I studied at Vrije Univeriteit Amsterdam, although now I am back home in London. In neuroscience, current thought tends to conceptualise the brain as a hierarchically ordered network which self-organizes into the structure that it is (via a ‘push-and-pull’ of opposing tendencies towards ordered [inhibited] and disordered [excited] brain dynamics). The end product of this is a fractal-like organisation, where, at the lowest level, you have individual neurons connecting to other neurons to form neuronal groups, which in turn form meta-groups between themselves, which then form meta-meta-groups, etc., with the ‘nature’ of the function changing (relative to its constituents) and emerging at each level of description.

It seems to me that the internet at the moment does not have a robust or explicit structure. And this seems to be because it does not self-organize. We have to apply ‘network organisation’ principles ourselves. Do you envisage the organised net having this fractal-like structure? I suppose individuals would form small groups with others based on specific interests or skills, and then meta-groups would form with a new, singular function emerging at each level because of the way the groups are organised. Very large high-level groups would become the net equivalent of the institutions we have today.

I’m looking at how brain organisation changes across different conscious states. Under certain psychedelic drugs, for example, the brain loses its robust structure and becomes more ‘random’ (everything connects to everything), and as we get closer to normal consciousness you get the appearance of these ‘small-world’ structures, i.e. the fractal-organisation. The state of the net now is comparable to the ‘random’ brain state. But the way in which the brain becomes more ‘normal’ is in a sense just by pruning the long connections and keeping the local connections – is this how you think, practically, the organised net would be created, through a sort of ‘disconnection’ of the excess, ‘long-range’ connections we have today (such as the case of mass-friending on Facebook)?”

La introducción a Machine Learning más fácil del mundo

Hace tiempo que estoy estudiando Machine Learning, más concretamente me estoy especializando en Reinforcement Learning, sin embargo cuando leí el título de este post no dudé ni un segundo en clickear para ver como presentaba los contenidos. En realidad me convenció este párrafo:

This guide is for anyone who is curious about machine learning but has no idea where to start. I imagine there are a lot of people who tried reading the wikipedia article, got frustrated and gave up wishing someone would just give them a high-level explanation. That’s what this is.

Y es que al principio no es fácil para los que venimos de otras disciplinas entender qué es el aprendizaje automático. En el caso del Reinforcement Learning hay referencias accesibles a todo el mundo para describirlo: conductismo, el perro de Pavlov, o aprender a través de castigos(recompensas negativas) y recompensas (positivas). Pronto voy a empezar a escribir  sobre la investigación, después de más de un año trabajando en la hipótesis y el enfoque, y voy a presentar como todo esto se relaciona con el Reinforcement Learning, y porqué lo que planteamos (un entorno subyacentemente colaborativo como driving force) es novedoso. De momento les dejo la introducción a machine learning más fácil del mundo!