研究表明，用于交易执行和投资组合管理的人工智能(AI)可能会导致问责和决策问题。金融稳定委员会(FSB)最近发布了一份关于使用人工智能和机器学习技术的报告，其中强调了这个问题，并将决策中的潜在漏洞描述为“黑箱”。

“人工智能和机器学习的使用可能会在决策过程中制造一个“黑箱”，这可能会引起复杂的问题，尤其是在尾部事件中。

报告称：“特别是，金融机构的人类用户和监管者可能很难掌握如何做出交易和投资等决策。

此外，这表明人工智能使用的通信通常是人类交易者和投资专业人员无法理解的，并可能对监控构成进一步的挑战。

然后FSB问谁来负责利用人工智能和基于机器学习的决策给金融机构造成的损失。

“如果由第三方开发的特定人工智能和机器学习应用造成巨大损失，交易机构是否应该对损失承担全部责任？或者监管机构或其他方面可以对应用程序开发人员提出潜在的索赔吗？”

该报告警告称，这项技术缺乏透明度可能会加剧监管机构破译未来将发生的“不良事件”的任务。