跳转至

Lab 3

在本次实验中,我们将学习简单的 socket 编程,分别利用多线程技术、IO 复用技术、或是 async/await 协程编写一个简单的多人聊天室程序。

首先给出一个简单的双人聊天室示例程序:

#include <stdio.h>
#include <string.h>
#include <stdlib.h>
#include <unistd.h>
#include <sys/socket.h>
#include <netinet/in.h>
#include <pthread.h>

struct Pipe {
    int fd_send;
    int fd_recv;
};

void *handle_chat(void *data) {
    struct Pipe *pipe = (struct Pipe *)data;
    char buffer[1024] = "Message:";
    ssize_t len;
    while ((len = recv(pipe->fd_send, buffer + 8, 1000, 0)) > 0) {
        send(pipe->fd_recv, buffer, len + 8, 0);
    }
    return NULL;
}

int main(int argc, char **argv) {
    int port = atoi(argv[1]);
    int fd;
    if ((fd = socket(AF_INET, SOCK_STREAM, 0)) == 0) {
        perror("socket");
        return 1;
    }
    struct sockaddr_in addr;
    addr.sin_family = AF_INET;
    addr.sin_addr.s_addr = INADDR_ANY;
    addr.sin_port = htons(port);
    socklen_t addr_len = sizeof(addr);
    if (bind(fd, (struct sockaddr *)&addr, sizeof(addr))) {
        perror("bind");
        return 1;
    }
    if (listen(fd, 2)) {
        perror("listen");
        return 1;
    }
    int fd1 = accept(fd, NULL, NULL);
    int fd2 = accept(fd, NULL, NULL);
    if (fd1 == -1 || fd2 == -1) {
        perror("accept");
        return 1;
    }
    pthread_t thread1, thread2;
    struct Pipe pipe1;
    struct Pipe pipe2;
    pipe1.fd_send = fd1;
    pipe1.fd_recv = fd2;
    pipe2.fd_send = fd2;
    pipe2.fd_recv = fd1;
    pthread_create(&thread1, NULL, handle_chat, (void *)&pipe1);
    pthread_create(&thread2, NULL, handle_chat, (void *)&pipe2);
    pthread_join(thread1, NULL);
    pthread_join(thread2, NULL);
    return 0;
}

使用如下命令编译并运行:

gcc 1.c -o 1 -lpthread
./1 6666

接着两个终端中分别使用如下命令连接:

nc 127.0.0.1 6666

其中 ncnetcat 包内的一个程序

这样从一个终端输入的消息,会转发到另一个终端,于是便实现了两个客户端间的聊天。这个聊天室程序十分简陋,忽略了 socket 编程中的很多细节,你的任务就是修改它(或者从头编写),使得它更健壮,并且支持多人聊天。

完善双人聊天室

实现以换行为分隔符的消息分割

TCP 是一个基于流的协议,本身没有“消息”的概念。在整个连接中,客户端发送的数据只是一连串的字节,服务端并不能知道这些数据是以怎样的方式分割的(一次 send 并不一定对应对方的一次 recv)。示例程序将一次 recv 得到的数据视为一个消息,是不合适的。请重新实现接收数据的部分,使得以换行符 \n 为分隔符接收和分割数据,并以一条消息为单位发送给另一个客户端。在助教的测试中消息的长度不超过 1 MiB(1,048,576 字节)。

注意,尽管每次只接受一个字符,并判断其字符是否为换行符是一种可行的方法,这种方法是非常非常低效的(很明显的是,每个字符都会有一次 syscall)。我们要求在此次实验中尽量避免这种方法(但不禁止),请考虑一下如何在一次接受大量字符的情况下完成上述的消息分割。如果你实在不知道如何实现,方才使用接受单个字符的方法,具体给分会按文末的评分标准给分。

处理可能的 send 阻塞

当发送的数据长度足够大时,可能会引起 send 的阻塞,这时在 recv 返回后只有部分数据被成功发送。请处理这种情况,使得所有数据都能保证发送到客户端。

一些小提示

recvsend 中指定的发送/接受字节数和实际的发送/接受字节数都是可能不同的,上述两个要求需要考虑如何利用这两个数值来完成处理。

利用多线程技术实现多人聊天室

接下来,我们将实现一个支持多人在线的聊天室,具体要求如下:

  • 最多支持 32 个用户同时在线,用户可以随时加入与退出
  • 程序将用户发出的数据以换行符分割为消息,并将消息完整地发送给其他用户

你需要使用阻塞 IO 与多线程技术来实现上述需求。可以使用的线程库有 pthread, Windows API 或 std::thread。除了标准库与上述库,请勿使用其他库。在测试中消息的长度不超过 1 MiB。

请注意,socket 是全双工的,即可以由两个线程同时分别读取与写入。但并发地读取或并发地写入可能会造成意想不到的后果。请利用操作系统课程中线程同步的相关知识实现对 socket 的安全操作。

pthread

如果你在类 Unix 系统下编程,可以选择使用 pthread 线程库,这里将对其基本用法做出介绍。

int pthread_create(pthread_t *thread, const pthread_attr_t *attr, void *(*start_routine) (void *), void *arg);
int pthread_join(pthread_t thread, void **retval);
int pthread_detach(pthread_t thread);

pthread_create 函数用于创建并启动一个新的进程。第一个参数为指向我们要创建的线程对象的指针;第二个参数为创建时的属性,目前可以忽略;第三个参数为线程启动后将要执行的函数指针;第四个参数为传入线程执行函数的数据。

pthread_join 用于等待线程的结束,并接收返回值。第一个参数为线程对象,第二个参数为接收返回值的变量的指针,如果为 NULL 表示忽略返回值。

pthread_detach 可以将线程与主线程分离,使该线程运行结束后得以终止自己并释放资源。分离后的线程将不能被 pthread_join 等待。

另外 pthread 线程库还包含处理互斥锁的函数。

int pthread_mutex_init(pthread_mutex_t *restrict mutex, const pthread_mutexattr_t *restrict attr);
int pthread_mutex_destroy(pthread_mutex_t *mutex);
int pthread_mutex_lock(pthread_mutex_t *mutex);
int pthread_mutex_unlock(pthread_mutex_t *mutex);

正如函数名所示,这四个函数分别对应了互斥锁的初始化、销毁、加锁和解锁。你也可以直接使用 PTHREAD_MUTEX_INITIALIZER 宏来初始化互斥锁。

pthread 也包含处理条件变量的函数,可用于阻塞和同步线程。

int pthread_cond_init(pthread_cond_t *restrict cond, const pthread_condattr_t *restrict attr);
int pthread_cond_destroy(pthread_cond_t *cond);
int pthread_cond_wait(pthread_cond_t *restrict cond, pthread_mutex_t *restrict mutex);

下面的代码展示了条件变量和互斥锁简单的使用方法:

#include <stdio.h>
#include <unistd.h>
#include <pthread.h>

pthread_mutex_t mutex = PTHREAD_MUTEX_INITIALIZER;
pthread_cond_t cv = PTHREAD_COND_INITIALIZER;
int ready = 0;
int data;

void *worker(void *p) {
    pthread_mutex_lock(&mutex);
    while (!ready) {
        pthread_cond_wait(&cv, &mutex);
    }
    printf("%d\n", data);
    pthread_mutex_unlock(&mutex);
    return NULL;
}

int main() {
    pthread_t thread;
    pthread_create(&thread, NULL, worker, NULL);
    pthread_mutex_lock(&mutex);
    sleep(1);
    data = 1234;
    ready = 1;
    pthread_cond_signal(&cv);
    pthread_mutex_unlock(&mutex);
    pthread_join(thread, NULL);
    return 0;
}

以上就是 pthread 线程库最基本的用法,如需进一步学习更高级的特性,请自行在互联网上搜索教程与文档。

C++ 线程库

如果你比较熟悉 C++ ,也可以使用 C++ 标准库中的线程库。这里给出一个与上面的示例程序功能相同的例子:

#include <iostream>
#include <thread>
#include <mutex>
#include <condition_variable>
#include <chrono>

int main() {
    int n = 0;
    int data;
    bool ready = false;
    std::mutex mutex;
    std::condition_variable cv;
    auto f = [&] {
        std::unique_lock<std::mutex> lock(mutex);
        cv.wait(lock, [&]{return ready;});
        std::cout << data << std::endl;
    };
    std::thread thread(f);
    std::this_thread::sleep_for(std::chrono::seconds(1));
    {
        std::lock_guard<std::mutex> lock(mutex);
        data = 1234;
        ready = true;
        cv.notify_one();
    }
    thread.join();
    return 0;
}

请自行参阅 C++ 手册学习线程库的用法。

利用 IO 复用 / 异步 IO 技术实现多人聊天室

除了多线程,IO 复用与异步 IO 技术也是实现并发服务器的常见方式。在示例程序中,我们可以发现 recv 大部分时间都在等待数据的到来,实际上处于空闲状态。因此在这种情况下,多线程实际上是没有必要的,我们可以使用非阻塞 IO 与 IO 复用技术实现相同的功能。这里使用 Unix 标准中用于 IO 多路复用的系统调用 select 实现了与第一个示例程序相同的功能:

#include <stdio.h>
#include <string.h>
#include <stdlib.h>
#include <unistd.h>
#include <fcntl.h>
#include <sys/socket.h>
#include <sys/select.h>
#include <sys/time.h>
#include <netinet/in.h>

struct Pipe {
    int fd_send;
    int fd_recv;
};

int main(int argc, char **argv) {
    int port = atoi(argv[1]);
    int fd;
    if ((fd = socket(AF_INET, SOCK_STREAM, 0)) == 0) {
        perror("socket");
        return 1;
    }
    struct sockaddr_in addr;
    addr.sin_family = AF_INET;
    addr.sin_addr.s_addr = INADDR_ANY;
    addr.sin_port = htons(port);
    socklen_t addr_len = sizeof(addr);
    if (bind(fd, (struct sockaddr *)&addr, sizeof(addr))) {
        perror("bind");
        return 1;
    }
    if (listen(fd, 2)) {
        perror("listen");
        return 1;
    }
    int fd1 = accept(fd, NULL, NULL);
    int fd2 = accept(fd, NULL, NULL);
    if (fd1 == -1 || fd2 == -1) {
        perror("accept");
        return 1;
    }
    fd_set clients;
    char buffer[1024] = "Message:";
    fcntl(fd1, F_SETFL, fcntl(fd1, F_GETFL, 0) | O_NONBLOCK); // 将客户端的套接字设置成非阻塞
    fcntl(fd2, F_SETFL, fcntl(fd2, F_GETFL, 0) | O_NONBLOCK);
    while (1) {
        FD_ZERO(&clients);
        FD_SET(fd1, &clients);
        FD_SET(fd2, &clients);
        if (select(fd2 + 1, &clients, NULL, NULL, NULL) > 0) { // 找出可以读的套接字
            if (FD_ISSET(fd1, &clients)) {
                ssize_t len = recv(fd1, buffer + 8, 1000, 0);
                if (len <= 0) {
                    break;
                }
                send(fd2, buffer, len + 8, 0);
            }
            if (FD_ISSET(fd2, &clients)) {
                ssize_t len = recv(fd2, buffer + 8, 1000, 0);
                if (len <= 0) {
                    break;
                }
                send(fd1, buffer, len + 8, 0);
            }
        } else {
            break;
        }
    }
    return 0;
}

对于一般的阻塞的 socket ,进行 recv 操作时如果缓冲区中无数据可读,将会阻塞直到有数据为止,这样使得大量时间用于等待数据上。而对于非阻塞的 socket ,若无数据可读 recv 将直接返回,而不会阻塞住。再配合 select ,每次找出可读的文件描述符,就可以实现在一个线程中同时处理多个连接。select 系统调用还可以找出可写及出错的文件描述符,并设定等待检查完成的最长时间。你可以在互联网上查找更多关于 select 的资料。

除了所有 Unix 系统都有的 select 系统调用,Linux 的 epoll,FreeBSD 和 macOS 的 kqueue ,以及 Windows 的 IOCP 也能实现类似的功能,并且相比 select 都有很高的效率。这几种 IO 复用 / 异步 IO 接口有各自的语义与用法,你可以选择任意一种,并以此为基础实现一个多人聊天室。你可能需要学习一些非阻塞 IO 网络编程的基础知识,比如 Reactor 设计模式。

聊天室的要求与多线程版本的相同,但你不得使用多线程技术。除了标准库与所使用系统的库外,请勿使用任何第三方的网络库或事件处理库。

async/await 协程

由于 C 是一种比较古老的语言,而 C++ 的 coroutine 支持在 C++20 才加入且不够完全,我们建议在实现此部分内容时使用 Rust 完成,但如果你愿意挑战 C/C++ 下的协程编程也是可行的。

仅在此章节中,我们允许使用热门的 Rust 异步编程库,例如 tokioasync-std。 如果你想使用其他的异步库亦可提前询问我们。

关于协程是什么可以参见这篇文章:https://www.baeldung.com/java-threading-models 。 async/await 的具体使用方法可以参见 tokio 的文档 https://docs.rs/tokio/1.6.1/tokio/ 。

async/await 可以如下理解:

async fn f() 将一个函数声明为了一个特殊的函数,进行 f() 调用时不会执行函数内容,而是返回一个 coroutine 对象,例如可以 let a = f();对这个对象执行 a.await 会在运行到此处时实际运行函数内容,但同时会定义一个 breakpoint,线程到达这里时,可以继续执行 a.await 的函数内容,也可以去执行其他的 .await 点位。比喻性的说,协程是代码控制(而不是 OS 调度控制)的线程,代码可以实际规定一部分协程的运行顺序。因此,协程可以与线程一一对应,这些协程应该由多少线程执行、应该先执行哪些协程是由最外层的 runner,或者说 runtime 决定的。

一个简单的 Rust async/await 协程例子可以参考 https://github.com/myl7/dnsl ,这是一个基于 async/await 实现的 DNS 中继器。

在足够现代的编程语言几乎都有 async/await 的实现,包括:

  • Python,从 3.5 开始正式叫 async/await
  • Javascript,Promise,从 ECMAScript 2017 开始标准化
  • Rust,Future trait,从 1.39.0 开始
  • Kotlin,structured coroutine,主打点之一/对比 Java 的优势之一

在本部分中,你需要将自己实现的客户端改写为用 async/await 实现。 一般来说,只要你的几个工作函数是 async fn 即可。 如果你不确定自己的实现是否“足够 async/await”,请积极询问助教们。

实验要求

请按照以下目录结构组织你的 GitHub 仓库:

(Git)                     // Git 仓库目录
├── lab3                  // 实验三根目录
│   ├── 1.c               // 完善后的双人聊天室的源代码
│   ├── 2.c               // 基于多线程的多人聊天室的源代码
│   ├── 3.c               // 基于 IO 复用 / 异步 IO 的多人聊天室的源代码
│   ├── 4.c               // 基于协程的多人聊天室的源代码
│   ├── Makefile          // (可选)你提供的 Makefile
│   └── README.md         // 实验报告
├── .gitignore
└── README.md

如果你的文件名与上述不同,在 README 中说明即可。

本次实验满分为 14 分。你需要完成:

  • 你的经过完善的双人聊天室能够以换行符分割消息,处理长达 1 MiB 的消息,并完整地发送到另一客户端(2 分)
    • 回避了每次处理单个字符(2 分)
  • 你的多线程聊天室能够满足前述要求,正确地实现群聊,并正确地处理对数据和 socket 对象的并发访问,不会造成数据损坏与崩溃(5 分)
  • 你的 IO 复用 / 异步 IO 聊天室能够满足前述要求,正确地实现群聊(5 分)
  • 你的协程聊天室能够满足前述要求,正确地实现群聊(2 分)

性能不是本实验关注的重点,只需要正确实现功能即可。与实验二相似,本实验不要求实验报告,但是推荐简单描述你的实现,以使助教能更好地理解你的代码,以免造成误解。

本次实验满分为 14 分,从上述项目中任选几项完成,保证所得总分相加大于等于 14 即可,多出的分数不会被计入,但是可以兑换助教们的称赞。

其他说明

本实验可以使用 C/C++/Rust 语言完成,如果需要使用其他语言请先询问助教。

本实验可以使用 C/C++ 的标准库,也可以使用操作系统的库(如 POSIX 标准库或 Windows API),但除了 await/async 部分外其他部分不得使用任何第三方的网络库或事件处理库。使用此处没有列出的库前请询问助教。