PHP快速按行读取CSV大文件的封装类分享(也适用于其它超大文本文件)

这篇文章主要介绍了一个PHP快速按行读取CSV大文件的封装类,这个类同时也适用于其它体积较大的文本文件,需要的朋友可以参考下。

CSV大文件的读取已经在前面讲述过了(PHP按行读取、处理较大CSV文件的代码实例),但是如何快速完整的操作大文件仍然还存在一些问题。

1、如何快速获取CSV大文件的总行数?

办法一:直接获取文件内容,使用换行符进行拆分得出总行数,这种办法对小文件可行,处理大文件时不可行;

办法二:使用fgets一行一行遍历,得出总行数,这种办法比办法一好一些,但大文件仍有超时的可能;

办法三:借助SplFileObject类,直接将指针定位到文件末尾,通过SplFileObject::key方法获取总行数,这种办法可行,且高效。

具体实现方法:

  1. $csv_file = 'path/bigfile.csv';
  2. $spl_object = new SplFileObject($csv_file, 'rb');
  3. $spl_object->seek(filesize($csv_file));
  4. echo $spl_object->key();

2、如何快速获取CSV大文件的数据?

仍然使用PHP的SplFileObject类,通过seek方法实现快速定位,代码如下:

  1. $csv_file = 'path/bigfile.csv';
  2. $start = 100000; // 从第100000行开始读取
  3. $num = 100; // 读取100行
  4. $data = array();
  5. $spl_object = new SplFileObject($csv_file, 'rb');
  6. $spl_object->seek($start);
  7. while ($num-- && !$spl_object->eof()) {
  8. $data[] = $spl_object->fgetcsv();
  9. $spl_object->next();
  10. }
  11. print_r($data);

3、综合上面两点,整理成一个csv文件读取的类:

  1. class CsvReader {
  2. private $csv_file;
  3. private $spl_object = null;
  4. private $error;
  5. public function __construct($csv_file = '') {
  6. if($csv_file && file_exists($csv_file)) {
  7. $this->csv_file = $csv_file;
  8. }
  9. }
  10. public function set_csv_file($csv_file) {
  11. if(!$csv_file || !file_exists($csv_file)) {
  12. $this->error = 'File invalid';
  13. return false;
  14. }
  15. $this->csv_file = $csv_file;
  16. $this->spl_object = null;
  17. }
  18. public function get_csv_file() {
  19. return $this->csv_file;
  20. }
  21. private function _file_valid($file = '') {
  22. $file = $file ? $file : $this->csv_file;
  23. if(!$file || !file_exists($file)) {
  24. return false;
  25. }
  26. if(!is_readable($file)) {
  27. return false;
  28. }
  29. return true;
  30. }
  31. private function _open_file() {
  32. if(!$this->_file_valid()) {
  33. $this->error = 'File invalid';
  34. return false;
  35. }
  36. if($this->spl_object == null) {
  37. $this->spl_object = new SplFileObject($this->csv_file, 'rb');
  38. }
  39. return true;
  40. }
  41. public function get_data($length = 0, $start = 0) {
  42. if(!$this->_open_file()) {
  43. return false;
  44. }
  45. $length = $length ? $length : $this->get_lines();
  46. $start = $start - 1;
  47. $start = ($start < 0) ? 0 : $start;
  48. $data = array();
  49. $this->spl_object->seek($start);
  50. while ($length-- && !$this->spl_object->eof()) {
  51. $data[] = $this->spl_object->fgetcsv();
  52. $this->spl_object->next();
  53. }
  54. return $data;
  55. }
  56. public function get_lines() {
  57. if(!$this->_open_file()) {
  58. return false;
  59. }
  60. $this->spl_object->seek(filesize($this->csv_file));
  61. return $this->spl_object->key();
  62. }
  63. public function get_error() {
  64. return $this->error;
  65. }
  66. }

调用方法如下:

  1. include('CsvReader.class.php');
  2. $csv_file = 'path/bigfile.csv';
  3. $csvreader = new CsvReader($csv_file);
  4. $line_number = $csvreader->get_lines();
  5. $data = $csvreader->get_data(10);
  6. echo $line_number, chr(10);
  7. print_r($data);

其实,上述CsvReader类并不只针对CSV大文件,对于其他文本类型的大文件或超大文件同样可用,前提是将类中fgetcsv方法稍加改动为current即可。