php快速导入大量数据的实例方法
在本篇文章里小编给大家分享的是关于php如何快速导入大量数据的相关知识点内容,需要的朋友们学习下。
PHP快速导入大量数据到数据库的方法
第一种方法:使用insert into 插入,代码如下:
- $params = array(‘value'=>'50′);
- set_time_limit(0);
- echo date(“H:i:s”);
- for($i=0;$i<2000000;$i++){
- $connect_mysql->insert($params);
- };
- echo date(“H:i:s”);
最后显示为:23:25:05 01:32:05 也就是花了2个小时多!
第二种方法:使用事务提交,批量插入数据库(每隔10W条提交下)最后显示消耗的时间为:22:56:13 23:04:00 ,一共8分13秒 ,代码如下:
- echo date(“H:i:s”);
- $connect_mysql->query(‘BEGIN');
- $params = array(‘value'=>'50′);
- for($i=0;$i<2000000;$i++){
- $connect_mysql->insert($params);
- if($i%100000==0){
- $connect_mysql->query(‘COMMIT');
- $connect_mysql->query(‘BEGIN');
- }
- }
- $connect_mysql->query(‘COMMIT');
- echo date(“H:i:s”);
第三种方法:使用优化SQL语句
将SQL语句进行拼接,使用 insert into table () values (),(),(),()然后再一次性插入,如果字符串太长,则需要配置下MYSQL,
在mysql命令行中运行 :
set global max_allowed_packet = 2*1024*1024*10;
消耗时间为:11:24:06 11:25:06;
插入200W条测试数据仅仅用了1分钟!代码如下:
- $sql= “insert into twenty_million (value) values”;
- for($i=0;$i<2000000;$i++){
- $sql.=”('50′),”;
- };
- $sql = substr($sql,0,strlen($sql)-1);
- $connect_mysql->query($sql);
总结:在插入大批量数据时,第一种方法无疑是最差劲的,而第二种方法在实际应用中就比较广泛,第三种方法在插入测试数据或者其他低要求时比较合适,速度确实快。