如何解决深度学习中的多体问题丨前沿

核心提示多个智能体如何协同工作才能高效完成任务?深度学习领域中的多体问题就像物理领域中的一样难解。很多研究机构正致力于研发先进技术处理多代理系统的问题。来源|机器之心编辑|Forest网址|www.xtecher.com微信公众号ID|Xteche

多智能体如何协同工作高效完成任务?深度学习领域的多体问题和物理领域的一样难。许多研究机构都致力于研究和开发先进的技术来处理多智能体系统的问题。

来源|机器之心

编辑| |森林

网站| www.xtecher.com

微信官方账号id | xtecher

“多体问题”是当今数学中一个看似简单实则极难克服的问题。多体问题是指多个相互作用的实体。在物理学中,任何三体都没有封闭的形式或解。像这样简单的问题反映了我们分析工具的局限性。这并不意味着它是不可解的,只是意味着我们不得不求助于近似和数值技术来进行计算。太阳、月亮和地球之间的三体可以用足够精确的数值计算来分析,以帮助宇航员登陆月球。

在深度学习领域,我们还有一个新兴的N体问题。许多更先进的系统正在处理多智能体系统的问题。每个代理可能有一个与全局目标合作或竞争的目标。在多智能体深度学习系统中,甚至在模块化深度学习系统中,研究人员需要设计可扩展的合作方法。

约翰尼斯·开普勒大学、DeepMind、OpenAI和脸书最近发表了论文,讨论这个问题的各个方面。

约翰尼斯·开普勒大学的团队,包括Sepp Hochreiter,已经提出使用模拟库仑力作为训练方法来生成对抗网络的替代目标函数。

寻找两个对立网络之间的平衡状态是一个热门的研究课题。解决深度学习中的二体问题是相当困难的。发现这种方法可以防止“模式崩溃”的不良情况。此外,该设置确保收敛到最优解,并且只有一个局部最小值恰好是全局的。Wasserstein目标函数可能是一个更好的解决方案,它在几个月前非常流行。这个团队将他们的发明命名为库仑甘。

微软的Maluuba发表了一篇论文,介绍了一个人工智能玩吃豆人的系统,其水平已经超过了人类。研究人员挑战的吃豆人游戏类似于这类游戏的原始版本,其中角色在收集球和水果的同时躲避怪物。本文的题目是“强化学习的混合奖励框架”。本文介绍了强化学习的实现,它不同于典型的强化结构:

这篇文章令人惊讶的是使用的目标函数的数量。本文描述了使用1800值函数作为其解决方案的一部分,即每个球、每个水果和每个怪物都使用代理。微软的研究表明,使用数千个微代理将问题分解为子问题并实际解决是有效的!在这个模型中,代理之间的耦合是显而易见的。

DeepMind用共享内存解决了多智能体的问题。在论文《远端:鲁棒的多任务强化学习》中,研究人员通过受“思想融合”启发的代理协调方法解决了一个常见问题。出于这个原因,研究人员采用了封装每个代理的方法。但是,它们允许一些信息通过代理的封装边界,希望窄通道具有更好的可伸缩性和健壮性。

我们提出了一种新的多任务联合训练方法,我们称之为分散训练法。我们不建议在不同的网络之间共享参数,而是共享一个“选择”策略来捕捉跨任务的共同行为。每个网络被训练解决自己的任务,同时受到近似共享策略的限制,共享策略通过抽取训练成为所有任务策略的中心。

结果导致更快和更稳定的学习,从而验证了窄通道方法。这些多主体开放问题是这种耦合的本质。DeepMind的论文展示了与原生紧耦合相比,低耦合方法的有效性。

OpenAI最近发表了一篇有趣的论文,内容是用模型匹配多系统中的其他代理来训练多系统。论文题目是《与对手学习——学习意识》。本文表明“以牙还牙”策略的出现源于赋予多智能体系统以社会意识。虽然结果是有弹性的,但这确实是一种令人着迷的方法,因为它解决了人工智能的一个关键维度。

总而言之,很多领先的深度学习研究机构都在积极探索模块化深度学习。这些小组正在探索由不同目标函数组成的多智能体系统,所有这些目标函数都用于合作解决单个全局目标函数。还有很多问题需要解决,但显然,这种做法确实很有希望取得进步。去年我发现博弈论的变化对以后的进步很有指导意义。今年,我们将看到更多探索多智能体系统松散耦合的尝试。

━━━━━

封面:杨帅先排版:森林校对:森林

如果您对国内外科技行业有新的信息或独到的见解,请联系Xtecher。

微信:小小鱼_永远

电子邮件:xiru.duan@xtecher.com

Xtecher官网平台现已开放认证作者,

对出版感兴趣的个人或媒体可以联系微信:springfreedom。

点击|关键词|查看相应内容。

Xtecher精品封面

人工智能

快乐雷霆|李志飞移动

大榭科技黄小青|Rokid黄嘉伟

时宇科技五干沙阁岭申通赵勇

地平线广场易|云天气袁兴元

车李嘉湘0051猎头刘伟

面想杨松帆|中科视觉驼山石光

申科技王宇|阅江科技刘培超

龙科技黄定龙|感知科技邹麒麟

钢铁侠科技张锐|速度感应科技马可

Camander邵天澜|艾米机器人李有芳Novumind CEO吴仁|爱互动王守坤

维祖姆·东·肖剑| Xpeng汽车公司亨利

阿里云的“硬骨头”

当吴恩达最终离开时,没有人感到惊讶。

腾讯优图,AI隐形团队

国产阿尔法狗击败日本主人

BAT一起谈人工智能

阿里云,智慧医疗的第一枪。

冷大师,从游戏算法到人类未来

28岁的炮弹袭击特工描绘的未来

CMU计算机学院院长安德鲁·摩尔访谈

阿里云,用AI让中国“制造”变“智造”

CMU智能建筑的新模式

AI时代,色情江湖的攻防战

虚拟现实

神奇飞跃:科技创业的耐心

IVLab通过工业虚拟现实降低行业风险

AR/VR还会继续受到投资人的欢迎吗?

诺腾戴李若彭达VR陈朝阳

西舍河街皮可周鸿伟

花炮工坊娄池HTCVR王丛青

信义伟范鹏|盈创科技孙立

思科技罗子雄|於陵智孔璋道宁

德克斯莫古小池

大数据

中国网数据孙元根昆仑数据卢伟

永科技何春涛华农石天寒若珉秋子

成长中的张溪梦思维数据

厕神数据桑文峰海韵数据冯义存

佳格数据章公|普林科技王子

数据师宋连笔|龚彩春

兴科技孙元浩才艺豪格

科技谷陈|四维图新

航空航天空

One 空房间舒适|天一研究院杨峰

“潇湘一号”科学实验卫星rose 空

融资过亿,零一空及其火箭长征。

大健康

以人为本,健康|Haplox许

Chinod罗启斌|范建兵,基础医疗

哈佛医学院乔治·丘奇

推翔科技陈宽

智能旅行

兴鹏汽车起点汽车沈亨利

何塞科技李一帆脉冲刘万谦

金融科技

智能投资:更理性还是更赌博?硅谷投资者:真正的人工智能还要等。

谁的结局,谁的胜利?

安全专家谈勒索软件

数字科技刘志峰|平g++金

Abc Fintech杨永志|奇点机智宋佳伟

金融芥菜陈鹏|蓝海智投刘振

海晶丁华坤|紫艺彤盛李杰

点融网郭宇航

其他科技企业家

科幻作家郝方静|达芬奇宋思纯

何塞科技李一帆|诸葛io孔淼

奥科科技叶晨光|汉诺半导体张成

5猎头刘伟|腾展科技魏宋湘

莫元我|阿米特

唐品十三世|布比江海

即插即用

智俱乐部张江英伟达黄仁勋

创资本张璐|穆宗科技唐蕊Insta360刘靖康|更多健康甘

企业家形象

“买中买”狂潮下物流巨头连锁的前世今生

分类法则:一年内成为1亿美元公司的背后

强北的困境:离桌者,观望者。

区块链创业者:黎明前的一刻

不开源的区块链都是“流氓”

中国对冲基金丁鑫资本

看科技走向纳斯达克之路

优步无人车在一次严重事故中被拦下。

神数据帮助企业“打好数据基础”

布情报,做有价值的云头条。

推送,第三方推送中的“乞丐”

李志飞:不上岸,只是出海。

时代的个性化阅读

个性化,空气再也不分享了。

带鳍技术的水下无人机:探索海底新时代

FaceThink推出人工智能评估系统

30+车老板:需要什么样的自动驾驶?

比亚迪:从603.62%到-28.79%,一步之遥。

如果您有一个高科技创业项目,Xtecher将为您提供:

1.科技人物的职业特征与影像拍摄。

2.在Xtecher官网、APP、微信全方位展示

3.科技界最专业的投资人、政府资源、产业资源

4.创业企业的品牌管家和公关服务

立即扫码联系我们。

微信号:Xtecher

关心未来的人

已经关注了Xtecher。

 
友情链接
鄂ICP备19019357号-22