逆向工程化神经回路的最小干预定义

在神经科学中，研究者已发展出关于逆向工程化一个系统意味着什么的非正式概念，例如能够在某种意义下对系统建模或仿真。Jonas 和 Kording 近期一篇有影响力的论文使用神经科学技术考察微处理器，指出理解神经系统的常用技术是不充分的。正如 Lazebnik 先前的工作所指出的，部分困难在于缺乏形式化语言。我们受神经科学背景驱动，提供了一个定义计算系统逆向工程的理论框架。特别令人感兴趣的是近期的工作，其中越来越多地通过干预来改变神经回路的功能，以理解系统并治疗疾病。从 Lazebnik 的视角——理解一个系统意味着你能够“修复它”——出发，并受神经科学用例的启发，我们提出对逆向工程的如下要求：一旦某个主体声称已逆向工程化一个神经回路，其随后需要能够：(a) 提供一组最小干预，将该回路的输入/输出（I/O）行为改变为期望行为；(b) 在有限理性约束（例如有限内存）下得出这组最小干预，以排除暴力搜索方法。在特定假设下，我们证明该逆向工程目标属于不可判定问题类。接下来，我们考察若干典型计算系统与逆向工程目标（由期望 I/O 行为指定），其中逆向工程确实可以执行。最后，以一个范例网络——大脑中的“奖赏网络”——为例，我们总结了当前神经科学理解的状态，并讨论了计算机科学与信息论概念如何为未来神经科学研究的目标提供指引。