微信公众号搜"智元新知"关注
微信扫一扫可直接关注哦!

phpQuery占用内存过多的处理方法

PHPQuery是一个PHP实现的类似jQuery的开源项目,可以在服务器端以jQuery的语法形式解析网页元素。 相对于正则或其它方式匹配网页方式,PHPQuery使用起来要方便的多。
在使用PHPQuery采集网页时,遇到一个问题:在处理大量网页之后,PHPQuery占用的内存数量非常惊人(很快就超过了1G),
比如这段代码
<div class="codetitle"><a style="CURSOR: pointer" data="60796" class="copybut" id="copybut60796" onclick="doCopy('code60796')"> 代码如下:

<div class="codebody" id="code60796">
while (true) {
PHPQuery::newDocumentFile($htmlFile);
// 处理网页元素...
echo memory_get_usage() . "\n";
}

谨慎运行上面这段代码,它会很快用光你的内存。
经过查看PHPQuery的源代码终于发现了问题所在,PHPQuery在每处理一个网页就会产生一个DOMDocumentWrapper 对象,而每个DOMDocumentWrapper 对象会被保存在静态成员$documents中(PHPQuery::createDocumentWrapper中),这个变量是一个数组,每解析一个网页数组元素就增加一个
PHPQuery::$documents[$wrapper->id] = $wrapper;
找到问题后,解决就很容易了,每次解析完一个网页,把PHPQuery::$documents置空即可。
<div class="codetitle"><a style="CURSOR: pointer" data="52510" class="copybut" id="copybut52510" onclick="doCopy('code52510')"> 代码如下:
<div class="codebody" id="code52510">
while (true) {
PHPQuery::newDocumentFile($htmlFile);
// 处理网页元素...
PHPQuery::$documents = array();
echo memory_get_usage() . "\n";
}

内存占用稳定了。

原文地址:https://www.jb51.cc/php/25436.html

版权声明:本文内容由互联网用户自发贡献,该文观点与技术仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如发现本站有涉嫌侵权/违法违规的内容, 请发送邮件至 dio@foxmail.com 举报,一经查实,本站将立刻删除。

相关推荐