跳到内容

自动ml/SMAC3

存储库文件导航

SMAC3:用于超参数优化的通用贝叶斯优化包

测验 文档 codecov状态

SMAC为贝叶斯优化提供了一个强大而灵活的框架,以支持用户确定性能良好他们的(机器学习)算法、数据集和手头的应用程序的超参数配置。主要核心由贝叶斯优化和积极的赛跑机制组成,有效地决定两种配置中哪种性能更好。

SMAC3是用Python3编写的,并使用Python 3.8、3.9和3.10进行了连续测试。它的随机性Forest是用C++编写的。在进一步的文本中,SMAC3代表性地提到了SMAC。

文档

路线图

要点:2.0版中的更改

随着SMAC的下一个大型发布,我们通过改进API和流水线已完成(请参阅变更日志). 所有立面/增强器都支持多目标、多保真度、,和多线程!这包括有一个问答界面和继续跑步pSMAC被删除,因为在指定工人数量时,SMAC会自动使用用于评估试验的多线程。然而,在清理代码库时,我们删除了命令行接口(仍然支持从脚本调用目标函数)和运行时优化。也,不再支持python 3.7。如果您依赖这些功能,请继续使用v1.4。

我们很高兴介绍新的主要版本,并期待在新的代码库上开发新功能。我们希望您能像我们一样享受这种新的用户体验。🚀

安装

本说明适用于在Linux系统上安装Windows和Mac,更多信息请参阅文档.

使用python 3.10创建一个新环境,并确保在系统或在环境中。我们通过水蟒演示了安装过程,如下所示:

创建和激活环境:

conda create-n SMAC python=3.10conda激活SMAC

安装swig:

conda安装gxx_linux-64 gcc_linux-6 swig

通过PyPI安装SMAC:

pip安装smac

如果您想为SMAC捐款,请使用以下步骤:

git克隆https://github.com/automl/SMAC3.git&&cd SMAC3制作install-dev

最小示例

 配置空间 进口 配置,配置空间

进口 numpy公司 作为 净现值
 小型计算机 进口 超参数优化外观,脚本
 sklearn公司 进口 数据集
 sklearn公司.支持向量机 进口 SVC公司
 sklearn公司.型号选择 进口 交叉值核心

虹膜 = 数据集.加载RIS()定义 火车(配置:配置,种子:整数 = 0)-> 浮动:分类器 = SVC公司(C类=配置[“C”],随机状态=种子)分数 = 交叉值核心(分类器,虹膜.数据,虹膜.目标,简历=5)返回 1 - 净现值.意思是(分数)配置空间 = 配置空间({“C”: (0.100,1000)})#指定优化环境的Scenario对象
脚本 = 脚本(配置空间,确定性=真的,n次试验=200)#使用SMAC查找最佳配置/超参数
小型计算机 = 超参数优化外观(脚本,火车)现任者 = 小型飞机控制.优化()

更多示例可以在文档.

通过DeepCAVE可视化

使用DeepCAVE(回购,纸类)你可以想象你的SMAC跑步。它是AutoML的可视化和分析工具(尤其是针对子问题超参数优化)运行。

许可证

这个程序是自由软件:你可以重新发布它和/或修改根据3条款BSD许可证的条款(请参阅许可证文件)。

分发此程序是为了希望它会有用,但无任何保证;甚至没有适销性或特定用途的适用性。

您应该已经收到了一份三条款BSD许可证的副本与此程序一起使用(请参阅许可证文件)。如果没有,请参阅在这里.

联系我们

如果您在使用SMAC时遇到问题、具体问题或发现错误,请创建一个问题。这是与我们沟通这些事情的最简单方式。

对于所有其他查询,请发送电子邮件至smac[at]ai[dot]uni[dash]hannover[dot]de。

其他

SMAC3由汉诺威大学和弗赖堡.

如果您发现了错误,请报告给问题此外,我们感谢任何帮助。查找我们为该套餐做出贡献的指南在这里.

如果您在某个研究项目中使用SMAC,请引用我们的JMLR文件:

@文章{JMLR:v23:21-0888,author={马吕斯·林道尔(Marius Lindauer)、凯萨琳娜·艾根斯佩格(Katharina Eggensperger)、马蒂亚斯·费勒(Matthias Feurer)、安德烈·比登卡普(AndréBiedenkapp)、迪凡·登(Difan Deng)、卡罗琳·本杰明斯(Carolin Benjamins)、蒂姆·,title={SMAC3:用于超参数优化的通用贝叶斯优化包},journal={机器学习研究杂志},年份={2022},体积={23},数字={54},页数={1-9},url={http://jmlr.org/papers/v23/21-0888.html}}

版权所有(C)2016-2022AutoML组.