经济学原理

首页 » 常识 » 诊断 » 上交大许志钦神经网络中的奥卡姆剃刀简单有
TUhjnbcbe - 2022/5/31 18:47:00
来源:智元社区作者:许志钦整理:熊宇轩编辑:李梦佳奥卡姆剃刀是由14世纪方济会修士奥卡姆的威廉提出的逻辑学法则,他在《箴言书注》2卷15题说“切勿浪费多余功夫去做本可以较少功夫完成之事”。

而在神经网络方面,「奥卡姆剃刀」原则可以概括为「如无必要,勿增实体」,即在保证性能的情况下,模型的参数越少越好。

上海交通大学自然科学研究院/数学学院长聘教轨副教授许志钦近期分享了题为「神经网络中的奥卡姆剃刀:训练中的频率原则和损失景观的嵌入原则」的报告。从频率原则、嵌入原则两个方面展开了讨论。

本文整理自青源Talk第十期,视频回看
1
查看完整版本: 上交大许志钦神经网络中的奥卡姆剃刀简单有