人工智能 1943

神经活动中内在思想的逻辑演算

沃伦·麦卡洛克与沃尔特·皮茨

把神经元看作「全或无」，由它们组成的网络，便成了一台演算逻辑的机器。

Choose your version

In depth · the introduction

1943 年，一位脑科学家与一个自学成才的离家少年逻辑学家，写下了关于单个神经细胞的第一个方程——又几乎是无心地，画出了人工智能的第一张蓝图。

把这个想法拆开看

麦卡洛克与皮茨从一个事实出发：神经细胞是「全或无」的——它要么激发，要么不激发，像一个开关，而非一个可调的旋钮。于是他们提出一个大胆的问题——如果单个神经元只是一个开关，那么由开关组成的整张网络，又能做什么？

他们的答案是：只要接得对，这样的网络就能演算逻辑。给一个神经元一条规则——「只有至少两个输入为开时才激发」——它的行为便是逻辑「与」。换一条规则，你便得到「或」，或「非」。而由于全部逻辑、乃至全部计算，都能由这寥寥几样拼出，一张由这些微小的「是 / 否」决定组成的网络，原则上便能计算任何计算机能算的东西。照此看来，大脑，是一台由开关砌成的庞大机器。

它从哪里来

这对搭档是一组不太可能的组合。沃伦·麦卡洛克是一位年届四旬、富有哲思的神经生理学家，被一个问题萦绕：大脑那湿漉漉的物质，究竟何以能承载逻辑？沃尔特·皮茨则刚刚走出少年时代——一个离家出走的孩子，自学了形式逻辑，少时便写信给伯特兰·罗素，又师从逻辑学家鲁道夫·卡尔纳普，后被麦卡洛克收留于家中。

他们把神经生理学，与怀特海和罗素的形式逻辑、以及阿兰·图灵那个崭新的「通用计算机器」之念融在一起，写出一篇符号密布、几乎无法卒读的论文。然而，对的人读到了它：约翰·冯·诺依曼——两年后，他把他们的「逻辑神经元」，建进了现代存储程序计算机的设计之中。

它为何重要

这是头一回，有人为一个古老的问题给出了精确的、数学的回答：机器，原则上，能思考吗？通过表明大脑自身的硬件可以被描述为计算，这篇论文一举开启了两个领域。它告诉工程师：由简单开关组成的网络能计算任何东西——这一许诺，一直延伸到今天的神经网络。它也告诉脑科学家：心智，或许可以被理解为正在被处理的信息。此后的每一个人工神经网络，以及你此刻或许正在使用的 AI，都从这一想法承袭而来。

一个便于想象的画面

想象一个酒吧门口的保安，在决定今晚要不要照常营业。只有到场的、获准的客人足够多，他才放行——这就是一个阈值。可名单上有一个被禁的名字，只要那人一进门，今晚就取消，无论场子有多满。这条「客人够多，除非那个被禁的人出现」的规则，正是麦卡洛克—皮茨神经元：把兴奋性输入与一个阈值相比，但让任何抑制都能一笔勾销一切。在下方，亲手试试。

它的位置

这篇论文是思想史上的一道枢纽。在它身后，站着乔治·布尔——1854 年，他把逻辑变成了代数；还有阿兰·图灵——1930 年代，他把计算变成了机器能执行的事。在它身前，则是整个现代 AI：弗兰克·罗森布拉特的感知机（1958）赋予神经元学习的能力；数十年后，AlexNet（2012）与 Transformer（2017）把数以百万计的这种单元堆叠起来，造出我们如今径直称作 AI 的系统。麦卡洛克与皮茨，正是这条漫长谱系的起点。

The original document

Original source text

Warren S. McCulloch & Walter Pitts · Bulletin of Mathematical Biophysics, Vol. 5, pp. 115–133 · 1943

Abstract

Because of the "all-or-none" character of nervous activity, neural events and the relations among them can be treated by means of propositional logic.

It is found that the behavior of every net can be described in these terms, with the addition of more complicated logical means for nets containing circles; and that for any logical expression satisfying certain conditions, one can find a net behaving in the fashion it describes.

The five physical assumptions

From the known physiology of the neuron the authors abstract five idealizing assumptions. They are stated plainly, and everything in the paper is built on them:

1. The activity of the neuron is an "all-or-none" process.

2. A certain fixed number of synapses must be excited within the period of latent addition in order to excite a neuron at any time, and this number is independent of previous activity and position on the neuron.

3. The only significant delay within the nervous system is synaptic delay.

4. The activity of any inhibitory synapse absolutely prevents excitation of the neuron at that time.

5. The structure of the net does not change with time.

From neurons to propositions

On these assumptions each neuron becomes a two-valued device, firing or not firing at each tick of a discrete clock set by the synaptic delay. Its firing at one instant is read as a proposition asserting that the conditions for it held an instant before. The paper then shows that nets without closed loops realize exactly the expressions of propositional logic — conjunction, disjunction, negation and their combinations — while nets that contain loops ("circles") acquire memory, letting a fact reverberate and so depend on the whole past.

[ … ]

The reach of the result

Building on Turing's 1936 notion of computability, the authors argue that, apart from the provision of an unlimited tape, such nets can compute whatever is effectively computable — that the logic of the idealized brain and the logic of the universal machine are, in this precise sense, the same. The closing sections turn to consequences for psychology and the theory of knowledge. The notation, borrowed from Carnap and Russell, is famously forbidding; the full nineteen pages, with every theorem and proof, are at the source below.

Chicago · 1943