Home

Awesome

OpenBG-IMG基准

<p align="left"> <b> 简体中文 | <a href="https://github.com/OpenBGBenchmark/OpenBG-IMG/blob/main/README_EN.md">English</a> </b> </p>

OpenBG-IMG是电子商务领域的多模态数据集,本基准使用了多种知识图谱嵌入模型进行链接预测,用于生成CCKS2022面向数字商务的知识处理与应用评测任务三:多模态商品知识图谱链接预测的评测结果,评测结果请在阿里天池平台进行提交。

环境配置

使用以下代码进行环境配置

pip install -r requirements.txt

数据集

请将天池平台上的数据放置在./data/,数据目录如下

data
 |-- OpenBG-IMG
 |    |-- images            # 图片集
 |    |    |-- ent_xxxxxx   # 实体对应图片
 |    |    |-- ...
 |    |-- train.tsv         # 训练集数据
 |    |-- test.tsv          # 测试集数据

数据集统计数据如下:

Dataset# Ent# Rel# Train# Dev# Test
OpenBG-IMG27,910†136230,0875,00014,675

†:实体中有14,718个多模态实体

查看数据集数据

$ head -n 3 train.tsv
ent_021198	rel_0031	ent_017656
ent_008185	rel_0092	ent_025949
ent_005940	rel_0080	ent_020805

如何运行

TransE & TransH & TransE & DistMult & ComplEx

模型参考并修改了OpenKE中的实现。

    cd 模型目录
    bash scripts/make.sh
    bash scripts/prepro.sh
    bash scripts/train.sh

TuckER

模型参考并修改了TuckER中的实现。

    bash scripts/prepro.sh
    bash scripts/train.sh

TransAE

本模型参考了OpenKE中TransE模型的实现以及TransAE中对图片的表示和编码。

    cd TransAE
    bash scripts/make.sh
    bash scripts/prepro.sh
    bash scripts/visual_emb.sh
    bash scripts/train.sh

RSME

本模型参考了RSME的官方代码。

    cd RSME
    bash scripts/visual_emb.sh
    bash scripts/prepro.sh
    bash scripts/train.sh

实验结果

ModelHIT@1HIT@3HIT@10MRMRR
TransE0.1500.3870.6471180.315
TransH0.1290.5250.7431120.357
TransD0.1370.5320.7461100.364
DistMult0.0600.1570.2795240.139
ComplEx0.1430.2440.3717820.221
TuckER0.4970.6900.82014730.611
TransAE0.2740.4890.71536.10.421
RSME0.4850.6870.83872.10.607

致谢

此代码参考了以下代码:

十分感谢!

更多相关工作

关于多模态知识图谱构建和补全的开源工作请参见MKGFormer(https://github.com/zjunlp/MKGformer/)