找回密码
 立即注册

QQ登录

只需一步,快速开始

一直在寻找
注册会员   /  发表于:2020-5-2 19:50  /   查看:5278  /  回复:18
10金币
本帖最后由 一直在寻找 于 2020-5-2 19:59 编辑

这边需要每天去网站采集数据,导入活字格里面分析某刻款每天的销售数量,这个网站只显示最近10条销售记录,每天都会采集下来

现在有这么一个问题,采集的数据有可能会重复的,打个比方,如果后一天么没有新的下单数量或少于10条的下单记录,这样采集下来的数据就会和前一天的有重复,因为每天采集数据量大概有10万条左右,比较多,之前想到的办法是,把这些每天采集下来的数据直接导入SQL,在SQL里面用视图语句过滤重复数据,这里就考虑到数据量大,每次10万条,一个月就会300万条,也影响后期查询的性能,所以过滤重复这一项先在放在前面来做,就是能不能用活字格导入的时候排除这些之前数据库中已经有的数据,这样SQL的数据量也会小不少

这样的功能活字格能实现吗?



附件: 您需要 登录 才可以下载或查看,没有帐号?立即注册

最佳答案

查看完整内容

你可以看下这里:https://help.grapecity.com.cn/pages/viewpage.action?pageId=46172714 选择替换模式时,您必须指定一个或多个列作为主键,在导入Excel数据时,活字格将使用主键列数据作为查询信息来比较Excel和表格中的数据。 替换模式将基于Excel的数据覆盖表格的数据: 删除Excel中不存在但表格中存在的数据; 添加Excel中存在但表格中不存在的数据; 更新Excel和表格中都存在的数据。

18 个回复

倒序浏览
最佳答案
最佳答案
Eric.Liang讲师达人认证 悬赏达人认证 活字格认证
超级版主   /  发表于:2020-5-2 19:50:13
来自 19#
一直在寻找 发表于 2020-5-10 18:38
好的,谢谢,我上面这个导入设置的是替换,为什么导入进去直接覆盖了,而不是判断是否有重复再导入?帮我 ...

你可以看下这里:https://help.grapecity.com.cn/pa ... ion?pageId=46172714

选择替换模式时,您必须指定一个或多个列作为主键,在导入Excel数据时,活字格将使用主键列数据作为查询信息来比较Excel和表格中的数据。

替换模式将基于Excel的数据覆盖表格的数据:

删除Excel中不存在但表格中存在的数据;
添加Excel中存在但表格中不存在的数据;
更新Excel和表格中都存在的数据。
回复 使用道具 举报
cg6207悬赏达人认证 活字格认证
金牌服务用户   /  发表于:2020-5-3 08:36:17
2#
一般这种情况是设置主键啊
在导入excel的时候选择替换,把主键设置为基准列

本帖子中包含更多资源

您需要 登录 才可以下载或查看,没有帐号?立即注册

x
回复 使用道具 举报
一直在寻找
注册会员   /  发表于:2020-5-3 16:42:44
3#
cg6207 发表于 2020-5-3 08:36
一般这种情况是设置主键啊
在导入excel的时候选择替换,把主键设置为基准列

你好,像我这个情况 是单独新建一个自动ID列设置主键好,还是把下单精确时间这一列设置主键好?
回复 使用道具 举报
cg6207悬赏达人认证 活字格认证
金牌服务用户   /  发表于:2020-5-3 17:47:35
4#
一直在寻找 发表于 2020-5-3 16:42
你好,像我这个情况 是单独新建一个自动ID列设置主键好,还是把下单精确时间这一列设置主键好?

后者比较好
回复 使用道具 举报
一直在寻找
注册会员   /  发表于:2020-5-3 21:47:16
5#

你好 如果勾选两个基准列 是不是且关系还是或关系?
回复 使用道具 举报
cg6207悬赏达人认证 活字格认证
金牌服务用户   /  发表于:2020-5-4 09:35:04
6#
这个是联合主键的概念
如果有自增ID了,就不需要另一个主键了。因为没有意义,又浪费性能
回复 使用道具 举报
一直在寻找
注册会员   /  发表于:2020-5-4 15:41:36
7#
cg6207 发表于 2020-5-4 09:35
这个是联合主键的概念
如果有自增ID了,就不需要另一个主键了。因为没有意义,又浪费性能


不行的,我这个NId字段是SQL里面的自增列,会提示这个

本帖子中包含更多资源

您需要 登录 才可以下载或查看,没有帐号?立即注册

x
回复 使用道具 举报
1818himis悬赏达人认证 活字格认证
高级会员   /  发表于:2020-5-4 16:55:15
8#
一直在寻找 发表于 2020-5-4 15:41
不行的,我这个NId字段是SQL里面的自增列,会提示这个

款号与下单精准时间都设置为基准列更合理吧
回复 使用道具 举报
一直在寻找
注册会员   /  发表于:2020-5-4 20:31:35
9#
1818himis 发表于 2020-5-4 16:55
款号与下单精准时间都设置为基准列更合理吧

你好,请问一下 基准列不一定是主关键词吧?
回复 使用道具 举报
12下一页
您需要登录后才可以回帖 登录 | 立即注册
返回顶部