I finally came around to upload a special visualization of work from my doctoral thesis, about belief coordination in artificial agents.

I show a special visualization of three artificial agents, each equipped with the HPBU architecture, who take turns and communicate their beliefs of a perceived drawing.

The agent on the left has the leader-role who starts the interaction and makes sure that both agents on the right have understood correctly.

This is work from my doctoral thesis, which you can find here: https://pub.uni-bielefeld.de/record/2945718

In my thesis I discuss research from linguistics, social neuroscience and artificial intelligence. I propose the Hierarchical Predictive Belief Update (HPBU) architecture based on the free energy principle and probabilistic and linear dynamic modeling. I also discuss evaluations of the implementation of that architecture.

Please contact me for further information!

Since I had to partially give my disputation (defense) talk via video call anyway, I could prepare for that by recording myself once or twice. Here is one of those recordings :)

Thesis title: Social motorics — a predictive processing model for efficient embodied communication

Thesis abstract: Human communication often seems effortless. We tend to quickly have an idea of our interaction partner’s intentions that enable us to predict their future behavior. How is such efficient communication possible which, despite uncertainty, allows us to quickly attribute beliefs to one another? Also, when and how are beliefs corrected if necessary? By investigating how action and perception influence and are influenced by prior beliefs during non-verbal communication, this work tackles the question of how and when the two subnetworks of the social brain interact.

A computational modeling approach is proposed, based on princi- ples of predictive processing and active inference. The model’s hierar- chy consists of sensorimotor- and mentalizing levels. Their processes influence each other in a way that allows their embodied representa- tions to be used efficiently. It is explored how uncertainty is handled in human communication, before examining the neuroscientific de- tails of social cognition. Both inform the assumptions underlying the proposed model, which is evaluated in a number of simulations. These test the model’s abilities to minimize uncertainty during action and perception, to differentiate between its own and other’s actions, and also its ability to coordinate beliefs between multiple agents in a non-verbal communication game.

The simulations not only show that the proposed mechanisms quickly infer action intentions, able to influence future perception and action. Simulations also highlight the importance of weighting new evidence against prior beliefs, so that it is able to detect false beliefs and repair them during social interaction. The proposed com- putational model demonstrates a mechanistic account of the interplay within the social brain that allows for efficient non-verbal commu- nication between similar agents, with implications for the notion of subjective direct access to other’s minds.

Links: https://pub.uni-bielefeld.de/record/2945718

Current AI lacks the means to find and creatively use meaning. Let us change that!

https://medium.com/@sebkahl/a-vision-for-meaningful-ai-618b4ddd7284

The title of my talk was Modeling reciprocal belief coordination in social interaction based on free energy minimization and it already includes unpublished simulation results, which I will now first publish in my upcoming dissertation publication.

The video even includes the Q&A session following my talk, with questions from Karl Friston and Dimitrios Pinotsis, so enjoy!

I’m currently busy writing up my dissertation thesis, so I probably shouldn’t be writing here. But it’s late and I’m still a bit psyched about that I’ve just been contacted twice about my recent talk on my modeling approach, its application in the context of social interaction, and its implications.

Here is a link to the abstract for the talk I just gave at the Computational Cognition workshop in Osnabrück: https://pub.uni-bielefeld.de/download/2937282/2937283/abstract_kahl_kopp.pdf

The other talk (on basically the same topic with a different spin) I gave at the EuroCogSci conference in Bochum, a couple of weeks earlier.

I’ve been working on this model for over 4 years now, with different iterations of the implementation and further developments that have come close to making me start another iteration of implementation. But maybe this is not the best idea if you want to finish up your thesis soon, is it?

Well, first there was this idea to implement a simple MOSAIC type model for motor coordination. This quickly grew into what can only be described as modeling the dynamics of the funtional networks of the so-called social brain, and further, into understanding what the dynamics within a social brain mean for the dynamics between agents in social interaction. Now it’s four years later and I’ve since stumbled my way towards a probabilistic hierarchical model of sensorimotor processes and mentalizing processes.

A very central aspect of this model is its basis in the predictive processing framework, especially active inference. Its central idea is that every level of the processing hierarchy tries to predict the dynamics in the next lower level. This goes all the way down to sensory and motor areas, in direct contact with the environment. In theory, an erroneous prediction leads to a switch to a better-fitting prediction, if available, to keep prediction error down. But that is simple inference in a predictive processing hierarchy. It gets more interesting when you think about how such a system would trigger action.

For action to happen you need to handle your predictions in a special way. In some sense you fixate your higher-level prediction about what your action should look like, making your motor system responsible to find an appropriate state that again can minimize prediction error, and in effect makes your body move, so that you meet your predictions.

When you now switch to social interaction with another agent, you need to start thinking about trying to infer the other’s beliefs. You don’t have direct access to those, but have to infer them from the other’s behavior. The basic idea that I follow is now simply to extend the model in a way that allows it to coordinate these beliefs through reciprocal coordination. In other words: the back and forth of perceived beliefs leads to a shared understanding for all interaction partners.

For the full idea, I’ll probably have to write a summary of my thesis. But just to tease you, I think the combination of active inference and a process of establishing shared understanding can lead to a subjective sense of direct access to the other agent’s beliefs.

„A predictive processing model of perception and action for self-other distinction“.

That is a mouth full, but quite nicely covers what we are aiming to talk about: Our new active inference model that is able to minimize free energy in action and perception of handwritten numbers. All the while it is also able to infer a sense of agency, the feeling of being responsible for the action you’re seeing. We run several simulation scenarios and show you the dynamics of its behavior. Please read on 😅

We developed and implemented a hierarchical model for perception and production of hand-written numbers, based on active inference and free energy minimization. Within the predictive processing literature it is argued that to make the world meet your expectations you sometimes produce actions that change the world. This is what is called active inference, and it is one of the ways to minimize your uncertainty about the world. This uncertainty is what we call free energy and it could roughly be described as an information theoretic potential for work you need to do to better explain the world and what happens within it. You can either try to find a different explanation for what you see or you can try to act upon the world (inlcluding other people) so that your uncertainty about it is minimized.

Our hierarchy with which we try to model the processes necessary to represent the dynamics of producing and perceiving handwritten numbers, is roughly associated with areas in the brain.

Our model not only makes use of spatial, but also temporal aspects of actions, so that when it learns to write the number 2, it also learns when and how fast to write the number’s upper and lower strokes.

Spatial and temporal aspects of action also inform an embedded model that integrates different cues for sense of agency. To be more specific, what allows us to infer that we are ourselves writing a number, is to perceive the actual stroke that you intended to write, but also a crucial part is its timing. This allows us to attribute a sense of agency to own actions.

What an attribution of agency also allows us is to infer an early (motor coordination level) distinction of own from other’s actions. Imagine you have no sense of another person being around and you cannot see your hand and the pen in your hand. You only see a white canvas in front of you and you have the ability to write something. This is all the model knows about its world. Now, when you write something all you can do to distinguish your own handwriting from that of somebody else, is to look at whether you can recognize your own writing. This is especially tricky when somebody else would try to write something at the same  time as you.

This is what we have the model go through and we show its dynamics and the outcome in the following figure.

We also show how prediction contradicting feedback creates free energy to disrupt a build-up of sense of agency. What we did here, was to have the model write out a 1, and it can perceive its muscles to actually write a 1, but at the same time it would visually perceive the writing of a 3.

And here is the comparison figure for a successful and an unsuccessful attribution of agency to a produced action.

I hope you enjoy reading the paper and please contact me if you have any questions :)

Really a worth while read if you weren’t there!

#PredictCam Tweets

Woher kommen all die Ideen, die mit einer “Aktivierung” der restlichen 90% des Gehirns assoziiert werden?

Laut Psiram geht der 10%-Mythos zurück auf den Psychologen William James, der 1908 formulierte: “We are making use of only a small part of our possible mental and physical resources”. Die in unserer Kultur vorhandene und wiederholt beschworene Ansicht (und wohl auch Hoffnung), dass wir Menschen noch sehr viel Potential haben, spielt eventuell auch eine Rolle, die den 10%-Mythos voran getrieben hat. Das Human Potential Movement, das sich Mitte des 20. Jahrhunderts entwickelte geht auch von diesem großen Potential des Menschen aus.

Wie vieles, das im Zusammenhang mit einer Idee des Übermenschlichen die “was wäre wenn” Frage stellt, so kommt es auch hier zu einer Verwurstung von pseudowissenschaftlichen und esoterischen Hirngespinsten. Zum Beispiel gibt es in esoterischen Kreisen die Idee, dass insbesondere Kinder auf dem AD(H)S-Spektrum so genannte Indigo-Kinder sind. Indigo-Kinder werden als eine nächste Entwicklungsstufe der Menschen oft förmlich herbeigewünscht, was sicherlich auch mit einem in Eltern intrinsisch vorhandenen Wunsch danach gekoppelt ist, dass ihr Kind etwas Besonderes ist. Indigo-Kinder sollen sehr sensibel sein für Einflüsse aller Art, höchst intelligent (natürlich) und sollen emotionale Signale ihrer Umwelt nicht gut filtern können (entsprechend ihrer Sensibilität). Da kommt die Idee, dass “normale” Menschen nur 10% ihrer Hirnkapazität nutzen, gerade recht, denn dann kann man ja annehmen, dass Indigo-Kinder, als nächste Entwicklungsstufe der Menschheit, mehr als diese 10% nutzen, wodurch schließlich die erhöhte Sensibilität erklärt wäre (ja genau…). Jedenfalls wird in esoterisch angehauchten Kreisen oftmals die Frage gestellt, ob bei ihren auf dem AD(H)S Spektrum diagnostizierten Kindern überhaupt eine Therapie angebracht ist, schließlich sind sie ja eventuell Indigo-Kinder. Man würde also der “natürlichen” Entwicklung durch eine Therapie im Wege stehen. Ein Vergleich mit Impfgegnern, ihren fehlerhaften Grundannahmen und davon ausgehenden naturalistischen Fehlschlüssen ist eventuell auch angebracht.

Es stellt sich mir die Frage, ob mit den 10% die Rechenleistung des Gehirns, also in Analogie mit einem Computer gemeint ist oder vielmehr die Hirnbereiche, die wir bewusst aktivieren können, gemeint sind, so dass bei 100% schließlich das gesamte Gehirn gleichzeitig “aktiv” ist? Generell wird bei dem Mythos davon ausgegangen, dass eine irgendwie geartete Aktivierung der übrigen 90% in übermenschlichen Fähigkeiten resultieren wird. Je nach Geschmack ist das darin begründet, dass entweder ein kleines, bisher übersehenes, sonst niemals aktives Hirnareal plötzlich aktiv wird und damit die besonderen Fähigkeiten, wie Telekinese, Gedankenlesen (you name it…) eben auch. Oder es wird eben statt, dass das Gehirn die ganze Zeit auf Sparflamme läuft, auf einmal das gesamte Gehirn aktiv und dadurch alles, was der Mensch bisher an kognitiven Fähigkeiten hat auf einmal drölfzig mal besser. Ideen der Auswirkungen auf den Menschen und die Gesellschaft, die durch so eine “Aktivierung” geschehen würden, gibt es jedenfalls zuhauf in allen Medienformen.

Es treibt also zum einen eine veraltete Annahme über kognitive Ressourcen, die Hoffnung einer sich zum positiven weiterentwickelnden Menschheit, der Aberglaube, aber auch eine pseudowissenschaftliche Idee einer potentiell übermenschlichen mentalen Weiterentwicklung, den 10%-Mythos.

Also nutzen wir ständig 100% unseres Gehirns?

Ja und nein und schon gar nicht bewusst. Generell ist das Gehirn dauerhaft aktiv und verbraucht im Schnitt immer gleich viel Energie. 20% des gesamten Energiehaushalts des Körpers wird vom Gehirn verbraucht, also in etwa zehn mal mehr Energie, als die Gewebemasse allein vermuten lassen würde. An Ratten wurde festgestellt, dass die Aufrechterhaltung des Ruhepotentials nur etwa 15% des Energiehaushalts des Gehirns und der größte Teil die aktive Signalverarbeitung ausmacht (Raichle & Gusnard, 2002). Das Ruhepotential ist das Membranpotential einer Nervenzelle in Ruhe, also ohne, dass diese durch eine Aktivierung durch andere Zellen, gestört wird. Dabei werden die Konzentrationsgradienten der relevanten Ionen zwischen dem Außenmedium und dem Zellinneren aufrecht erhalten, so dass eine konstante elektrische Spannung herrscht. Unsere Nervenzellen sind also nie ganz inaktiv, sondern werden durch das Ruhepotential ständig in “Alarmbereitschaft” gehalten. Sobald das Schwellenpotential durch initiierten Ionen-Einstrom überschritten wird, wird ein Aktionspotential ausgelöst. Die Nervenzelle “feuert” und das Signal wandert das Axon der Nervenzelle entlang, hin zu anderen Nervenzellen, die mit dem Axon über Dendriten verbunden sind. Außerdem besteht auch ohne äußere Reize immer eine gewisse Grundaktivität, die so genannte Spontanaktivität. Nervenzellen werden von mit ihnen verbundenen anderen Nervenzellen an ihren Synapsen durch hemmende oder erregende Verbindungen ständig in einem Zustand der mehr oder minder ausgeprägten Erregbarkeit gehalten. Je nach Aufgabe der Zelle im eingebetten Netzwerk kann eine Nervenzelle somit schneller oder verzögerter ein Aktionspotential auslösen.

Was ist aber mit der “echten” Verarbeitung von Stimuli?

Unter “Stimuli” versteht man die Reize, die unter kontrollierten Bedingungen auf die Sinnesorgane von Versuchstieren/-personen ausgeübt werden. Untersuchungen haben festgestellt, dass ein Unterschied im Energieverbrauch bei einem Vergleich zwischen dem Gehirn in “Wartestellung” und der Verarbeitung eines Stimulus, wenn überhaupt, sehr gering ist (Sokoloff et al., 1955). Wer also auf die Idee kommt, man könne ja abnehmen, indem man ganz viel nachdenkt, wird hier enttäuscht sein und das tut mir leid. :(

Unser Gehirn löst das Problem der Wahrnehmung nach dem Prinzip vom “Teilen und Herrschen”, da es viel zu verschwenderisch wäre für alle möglichen Kombinationen und Variationen von Stimuli in unterschiedlichsten Umgebungen spezialisierte Verarbeitungsmechanismen im Gehirn bereit zu stellen, metabolisch “durchzufüttern” und auch unser Schädel nur begrenzten Platz zur Verfügung stellt. Die “Verarbeitung” aller wahrnehmbaren Reize ist wichtig, da erst durch diese relevante Informationen destilliert werden können. Wir schlüsseln daher die Stimuli in ihre relevanten Bestandteile auf und verarbeiten sie in getrennten, spezialisierten Netzwerken. Es werden also einzelne Netzwerke aus ihrer “Ruhestellung” gerissen um den Stimulus zu verarbeiten. Innerhalb, aber auch zwischen diesen Netzwerken kann es zu korrelierter Aktivität kommen. Korrelierte Aktivität ist wichtig, damit nach dem Hebb’schen Prinzip das was “zusammen” feuert sich zusammen schalten, also Synapsen miteinander bilden kann. Dies ist eines der fundamentalen Prinzipien des Lernens. Daher wäre es nicht zielführend, wenn weite Teile des Gehirns synchron feuern, denn so könnten sich keine spezialisierten Netzwerke von Nervenzellen bilden, die dann gezielt bestimmte Bestandteile der Stimuli verarbeiten können. Es gibt übrigens einen Zustand, bei dem große Teile des Gehirns synchron aktiv werden: epileptische Anfälle.

Das Gehirn ist also im Schnitt immer gleich aktiv, mit geringen Abweichungen, die bei der Verarbeitungen der uns umgebenden, sich ständig verändernden Welt, auftreten.

Trotz dieser Aufarbeitung werde ich mir diesen Film nicht entgehen lassen. Denn auch wenn die Grundannahme des Films weit von Science Fact entfernt ist und die Science Fiction somit leider weit hergeholt wirkt, wird er bestimmt gutes Popcorn Kino abgeben. :)

• Lucy. (n.d.). Retrieved August 14, 2014, from http://trailers.apple.com/trailers/universal/lucy/
• Mythos einer 10% Nutzung des Gehirns. (2012, March 30). Retrieved from https://www.psiram.com/ge/index.php/Mythos_einer_10%_Nutzung_des_Gehirns
• Indigo-Kinder. (2013, March 27). Retrieved from https://www.psiram.com/ge/index.php/Indigo-Kinder
• Impfgegner. (2013, November 25). Retrieved from https://www.psiram.com/ge/index.php/Impfgegner
• Hohner, M. (2011, July 29). Fehlschluss #14: Naturalistischer Fehlschluss. Retrieved from http://ratioblog.de/entry/fehlschluss-14-naturalistischer-fehlschluss
• Raichle, M. E., & Gusnard, D. A. (2002). Appraising the brain’s energy budget. Proceedings of the National Academy of Sciences, 99(16), 10237-10239.
• Sokoloff, L., Mangold, R., Wechsler, R., Kennedy, C. & Kety, S. S. (1955). The effect of mental arithmetic on cerebral circulation and metabolism. J. Clin. Invest. 34, 1101–1108.

Da es nie so einfach ist die eigene Forschung kurz und knapp und verständlich zusammenzufassen, verlinke ich hier einmal den Artikel. :)

https://www.cit-ec.de/de/news/virtuellen-avataren-lernen-wie-menschen-kommunizieren

Tweets about #iva15 from:glialfire