Aaron Lau(韩栖)

风控模型眼里的正常人 —— 只是大多数

Aaron Lau(韩栖)145 字

新用户没有历史记录,模型不知道拿你怎么办;行为稍微偏一点,就被归到可疑那一类。

「但是算法眼里的正常人其实只是数据中的大多数,以评估数据为标准。」所谓风控,大部分时候是在判断你像不像样本里的多数人。

少数群体也一样,样本里人少,默认就被当成异常。「然而现在大公司都在解散AI伦理委员会这种东西。」模型不会解释为什么,它只给一个结果。

社会观察 · 开发日志与一周短评