在 FTP 的 libcurl 中使用简单和多接口

如何解决在 FTP 的 libcurl 中使用简单和多接口

我正在编写一个程序,它不断地递归地检查 FTP 服务器上的新文件。当检测到文件时,将下载该文件。

我使用 curl 简单界面编写了所有内容,因为阻止对 curl_easy_perform() 的调用非常适合控制通道和列表操作。但是说到下载文件,多界面似乎更合适。我想把整个事情切换到多,但目录列表变得非常复杂。

所以这是我的问题,我可以在同一个线程中同时使用easy和multi两种接口吗?如果是这样,他们可以共享到服务器的相同连接吗?

编辑 1

有没有办法检查单个传输状态而不是使用 curl_easy_perform()?所以我可以将 curl_multi_* 接口用于我的所有传输,并且只在我执行之后立即检查我的 LIST 命令状态。这将允许我模拟阻塞行为,而不会干扰我将在其他地方处理和检查的文件传输。

据我所知,curl_multi_info_read() 不允许这样做:

当您使用此函数获取消息时,它会从内部队列中删除,因此再次调用此函数将不会再次返回相同的消息。

解决方法

这是否回答了您的问题:

当设置简单句柄并准备好进行传输时,您应该使用 curl_multi_add_handle 将简单句柄添加到多句柄,而不是像使用简单界面进行传输时那样使用 curl_easy_perform。您可以随时向多句柄添加更多简单句柄,即使其他传输已在运行。

来自libcurl - multi interface overview(一个多处理多个简单的处理)

,

我可以在同一个线程中同时使用easy和multi两个接口吗?

是的,但请注意,easy api 主要是阻塞的,而 multi api 主要是非阻塞的,因此如果您错误地组合它们,您可能最终会遇到多传输挂起/缓慢的情况,因为您的线程被 curl_easy~ 调用阻塞。

如果是这样,他们可以共享到服务器的相同连接吗?

严格来说,是的,至少在某些情况下,但您确实应该让 libcurl 担心连接重用的细节,除非您处于微优化阶段(并且考虑到您的问题,您绝对不是)

有没有办法检查单个传输状态

从 curl_multi 传输列表中检查单个传输的状态? 老实说,当我使用 curl_multi 时,我通常只在它们不再活动时检查它们,如 curl_multi_info_read() & co 报告的那样。并使用 CURLOPT_WRITEFUNCTION & co 跟踪每次传输,

这个程序会输出

transfer #1 is 4.70178% downloaded. running: true
transfer #2 is 6.51742% downloaded. running: true
transfer #3 is 6.14288% downloaded. running: true
transfer #4 is 6.01199% downloaded. running: true
transfer #0 is 12.3027% downloaded. running: true
transfer #1 is 8.73407% downloaded. running: true
transfer #2 is 14.0515% downloaded. running: true
transfer #3 is 12.8638% downloaded. running: true
transfer #4 is 11.8516% downloaded. running: true
(...)
transfer #0 is 94.8156% downloaded. running: true
transfer #1 is 88.5291% downloaded. running: true
transfer #2 is 98.8117% downloaded. running: true
transfer #3 is 92.01% downloaded. running: true
transfer #4 is 100% downloaded. running: false
transfer #0 is 100% downloaded. running: false
transfer #1 is 100% downloaded. running: false
transfer #2 is 100% downloaded. running: false
transfer #3 is 100% downloaded. running: false

它在自己的线程中跟踪每个单独的传输,主线程可以通过执行 transfers[x]->status 轻松检查任何单独的传输~

#include <iostream>
#include <thread>
#include <string>
#include <string_view>
#include <atomic>
#include <vector>
#include <memory>

#include <curl/curl.h>

class Curl_Transfer
{
public:
    std::string url;
    std::string response_headers;
    std::string response_body;
    CURL *ch = nullptr;
    CURLcode curl_easy_perform_code = CURLcode(0);
    bool running = true;
    std::thread dedicated_thread;
    int64_t expected_size = 0; // << content-length reported size

    Curl_Transfer(std::string url) : url(url)
    {
        this->dedicated_thread = std::thread([&]() -> void
                                             {
                                                 this->ch = curl_easy_init();
                                                 curl_easy_setopt(this->ch,CURLOPT_URL,this->url.c_str());
                                                 curl_easy_setopt(this->ch,CURLOPT_WRITEDATA,this);
                                                 curl_easy_setopt(this->ch,CURLOPT_HEADERDATA,CURLOPT_WRITEFUNCTION,this->WRITEFUNCTION_cb);
                                                 curl_easy_setopt(this->ch,CURLOPT_HEADERFUNCTION,this->HEADERFUNCTION_cb);
                                                 CURLcode code=curl_easy_perform(this->ch);
                                                 //std::cout << "code: " << code << std::endl;
                                                 this->curl_easy_perform_code = code;
                                                 this->running = false;
                                             });
    }
    ~Curl_Transfer()
    {
        std::cout << "DESTRUCTING!" << std::endl;
        this->dedicated_thread.join();
        curl_easy_cleanup(this->ch);
    }

private:
    // this function need to be static to be compatible with some C->C++ calling stuff... idk,but it also need access to this,so fthis=this...
    static size_t WRITEFUNCTION_cb(const char *data,size_t size,size_t nmemb,Curl_Transfer *fthis)
    {
        CURL *ch = fthis->ch;
        fthis->response_body.append(data,size * nmemb);
        //std::cout << "got body data! " << size*nmemb << "\n";
        return size * nmemb;
    };
    // this function need to be static to be compatible with some C->C++ calling stuff... idk,so fthis=this...
    static size_t HEADERFUNCTION_cb(const char *data,Curl_Transfer *fthis)
    {
        CURL *ch = fthis->ch;
        //std::cout << "got headers! " << size*nmemb << "\n";
        fthis->response_headers.append(data,size * nmemb);
        std::string_view svd(data,size * nmemb);
        const std::string_view needle = "Content-Length: ";
        auto clp = svd.find(needle);
        if (clp != std::string::npos)
        {
            svd = svd.substr(needle.size());
            std::string fck(svd);
            fthis->expected_size = std::stoll(fck,nullptr,0);
        }
        return size * nmemb;
    };
};
int main()
{
    curl_global_init(~0); // << todo get proper constant
    std::vector<Curl_Transfer *> transfers;
    for (int i = 0; i < 5; ++i)
    {
        auto fck = new Curl_Transfer("http://speedtest.tele2.net/100MB.zip");
        transfers.push_back((fck));
    }
    for (;;)
    {
        std::this_thread::sleep_for(std::chrono::seconds(5));
        for (size_t i = 0; i < transfers.size(); ++i)
        {
            std::cout << "transfer #" << i << " is " << (double((transfers[i]->response_body.size()) / double(transfers[i]->expected_size))*100) << "% downloaded. running: " << (transfers[i]->running ? "true" : "false") << "\n";
        }
    }
}
  • 不过,可能有更好的方法来做到这一点.. 必须有。但直到有更聪明的人出现,*这至少有效......
  • 显然我做了所有的线程处理来避免使用 curl_multi api.. dafuq
  • 您使用的是 C,而不是 C++...抱歉,您也可以在 C 中完成上述所有操作,但是我对 C 不够满意,无法享受用 C 重写它(任何人都是免费的)如果他们愿意,可以用 C 重写代码)

版权声明:本文内容由互联网用户自发贡献,该文观点与技术仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如发现本站有涉嫌侵权/违法违规的内容, 请发送邮件至 dio@foxmail.com 举报,一经查实,本站将立刻删除。

相关推荐


使用本地python环境可以成功执行 import pandas as pd import matplotlib.pyplot as plt # 设置字体 plt.rcParams[&#39;font.sans-serif&#39;] = [&#39;SimHei&#39;] # 能正确显示负号 p
错误1:Request method ‘DELETE‘ not supported 错误还原:controller层有一个接口,访问该接口时报错:Request method ‘DELETE‘ not supported 错误原因:没有接收到前端传入的参数,修改为如下 参考 错误2:cannot r
错误1:启动docker镜像时报错:Error response from daemon: driver failed programming external connectivity on endpoint quirky_allen 解决方法:重启docker -&gt; systemctl r
错误1:private field ‘xxx‘ is never assigned 按Altʾnter快捷键,选择第2项 参考:https://blog.csdn.net/shi_hong_fei_hei/article/details/88814070 错误2:启动时报错,不能找到主启动类 #
报错如下,通过源不能下载,最后警告pip需升级版本 Requirement already satisfied: pip in c:\users\ychen\appdata\local\programs\python\python310\lib\site-packages (22.0.4) Coll
错误1:maven打包报错 错误还原:使用maven打包项目时报错如下 [ERROR] Failed to execute goal org.apache.maven.plugins:maven-resources-plugin:3.2.0:resources (default-resources)
错误1:服务调用时报错 服务消费者模块assess通过openFeign调用服务提供者模块hires 如下为服务提供者模块hires的控制层接口 @RestController @RequestMapping(&quot;/hires&quot;) public class FeignControl
错误1:运行项目后报如下错误 解决方案 报错2:Failed to execute goal org.apache.maven.plugins:maven-compiler-plugin:3.8.1:compile (default-compile) on project sb 解决方案:在pom.
参考 错误原因 过滤器或拦截器在生效时,redisTemplate还没有注入 解决方案:在注入容器时就生效 @Component //项目运行时就注入Spring容器 public class RedisBean { @Resource private RedisTemplate&lt;String
使用vite构建项目报错 C:\Users\ychen\work&gt;npm init @vitejs/app @vitejs/create-app is deprecated, use npm init vite instead C:\Users\ychen\AppData\Local\npm-
参考1 参考2 解决方案 # 点击安装源 协议选择 http:// 路径填写 mirrors.aliyun.com/centos/8.3.2011/BaseOS/x86_64/os URL类型 软件库URL 其他路径 # 版本 7 mirrors.aliyun.com/centos/7/os/x86
报错1 [root@slave1 data_mocker]# kafka-console-consumer.sh --bootstrap-server slave1:9092 --topic topic_db [2023-12-19 18:31:12,770] WARN [Consumer clie
错误1 # 重写数据 hive (edu)&gt; insert overwrite table dwd_trade_cart_add_inc &gt; select data.id, &gt; data.user_id, &gt; data.course_id, &gt; date_format(
错误1 hive (edu)&gt; insert into huanhuan values(1,&#39;haoge&#39;); Query ID = root_20240110071417_fe1517ad-3607-41f4-bdcf-d00b98ac443e Total jobs = 1
报错1:执行到如下就不执行了,没有显示Successfully registered new MBean. [root@slave1 bin]# /usr/local/software/flume-1.9.0/bin/flume-ng agent -n a1 -c /usr/local/softwa
虚拟及没有启动任何服务器查看jps会显示jps,如果没有显示任何东西 [root@slave2 ~]# jps 9647 Jps 解决方案 # 进入/tmp查看 [root@slave1 dfs]# cd /tmp [root@slave1 tmp]# ll 总用量 48 drwxr-xr-x. 2
报错1 hive&gt; show databases; OK Failed with exception java.io.IOException:java.lang.RuntimeException: Error in configuring object Time taken: 0.474 se
报错1 [root@localhost ~]# vim -bash: vim: 未找到命令 安装vim yum -y install vim* # 查看是否安装成功 [root@hadoop01 hadoop]# rpm -qa |grep vim vim-X11-7.4.629-8.el7_9.x
修改hadoop配置 vi /usr/local/software/hadoop-2.9.2/etc/hadoop/yarn-site.xml # 添加如下 &lt;configuration&gt; &lt;property&gt; &lt;name&gt;yarn.nodemanager.res