crypto/algif_hash.c

   1 // SPDX-License-Identifier: GPL-2.0-or-later
   2 /*
   3  * algif_hash: User-space interface for hash algorithms
   4  *
   5  * This file provides the user-space API for hash algorithms.
   6  *
   7  * Copyright (c) 2010 Herbert Xu <herbert@gondor.apana.org.au>
   8  */
   9
  10 #include <crypto/hash.h>
  11 #include <crypto/if_alg.h>
  12 #include <linux/init.h>
  13 #include <linux/kernel.h>
  14 #include <linux/mm.h>
  15 #include <linux/module.h>
  16 #include <linux/net.h>
  17 #include <net/sock.h>
  18
  19 struct hash_ctx {
  20         struct af_alg_sgl sgl;
  21
  22         u8 *result;
  23
  24         struct crypto_wait wait;
  25
  26         unsigned int len;
  27         bool more;
  28
  29         struct ahash_request req;
  30 };
  31
  32 static int hash_alloc_result(struct sock *sk, struct hash_ctx *ctx)
  33 {
  34         unsigned ds;
  35
  36         if (ctx->result)
  37                 return 0;
  38
  39         ds = crypto_ahash_digestsize(crypto_ahash_reqtfm(&ctx->req));
  40
  41         ctx->result = sock_kmalloc(sk, ds, GFP_KERNEL);
  42         if (!ctx->result)
  43                 return -ENOMEM;
  44
  45         memset(ctx->result, 0, ds);
  46
  47         return 0;
  48 }
  49
  50 static void hash_free_result(struct sock *sk, struct hash_ctx *ctx)
  51 {
  52         unsigned ds;
  53
  54         if (!ctx->result)
  55                 return;
  56
  57         ds = crypto_ahash_digestsize(crypto_ahash_reqtfm(&ctx->req));
  58
  59         sock_kzfree_s(sk, ctx->result, ds);
  60         ctx->result = NULL;
  61 }
  62
  63 static int hash_sendmsg(struct socket *sock, struct msghdr *msg,
  64                         size_t ignored)
  65 {
  66         int limit = ALG_MAX_PAGES * PAGE_SIZE;
  67         struct sock *sk = sock->sk;
  68         struct alg_sock *ask = alg_sk(sk);
  69         struct hash_ctx *ctx = ask->private;
  70         long copied = 0;
  71         int err;
  72
  73         if (limit > sk->sk_sndbuf)
  74                 limit = sk->sk_sndbuf;
  75
  76         lock_sock(sk);
  77         if (!ctx->more) {
  78                 if ((msg->msg_flags & MSG_MORE))
  79                         hash_free_result(sk, ctx);
  80
  81                 err = crypto_wait_req(crypto_ahash_init(&ctx->req), &ctx->wait);
  82                 if (err)
  83                         goto unlock;
  84         }
  85
  86         ctx->more = false;
  87
  88         while (msg_data_left(msg)) {
  89                 int len = msg_data_left(msg);
  90
  91                 if (len > limit)
  92                         len = limit;
  93
  94                 ctx->sgl.sgt.sgl = ctx->sgl.sgl;
  95                 ctx->sgl.sgt.nents = 0;
  96                 ctx->sgl.sgt.orig_nents = 0;
  97
  98                 len = extract_iter_to_sg(&msg->msg_iter, len, &ctx->sgl.sgt,
  99                                          ALG_MAX_PAGES, 0);
 100                 if (len < 0) {
 101                         err = copied ? 0 : len;
 102                         goto unlock;
 103                 }
 104                 sg_mark_end(ctx->sgl.sgt.sgl + ctx->sgl.sgt.nents);
 105
 106                 ctx->sgl.need_unpin = iov_iter_extract_will_pin(&msg->msg_iter);
 107
 108                 ahash_request_set_crypt(&ctx->req, ctx->sgl.sgt.sgl, NULL, len);
 109
 110                 err = crypto_wait_req(crypto_ahash_update(&ctx->req),
 111                                       &ctx->wait);
 112                 af_alg_free_sg(&ctx->sgl);
 113                 if (err) {
 114                         iov_iter_revert(&msg->msg_iter, len);
 115                         goto unlock;
 116                 }
 117
 118                 copied += len;
 119         }
 120
 121         err = 0;
 122
 123         ctx->more = msg->msg_flags & MSG_MORE;
 124         if (!ctx->more) {
 125                 err = hash_alloc_result(sk, ctx);
 126                 if (err)
 127                         goto unlock;
 128
 129                 ahash_request_set_crypt(&ctx->req, NULL, ctx->result, 0);
 130                 err = crypto_wait_req(crypto_ahash_final(&ctx->req),
 131                                       &ctx->wait);
 132         }
 133
 134 unlock:
 135         release_sock(sk);
 136
 137         return err ?: copied;
 138 }
 139
 140 static ssize_t hash_sendpage(struct socket *sock, struct page *page,
 141                              int offset, size_t size, int flags)
 142 {
 143         struct sock *sk = sock->sk;
 144         struct alg_sock *ask = alg_sk(sk);
 145         struct hash_ctx *ctx = ask->private;
 146         int err;
 147
 148         if (flags & MSG_SENDPAGE_NOTLAST)
 149                 flags |= MSG_MORE;
 150
 151         lock_sock(sk);
 152         sg_init_table(ctx->sgl.sgl, 1);
 153         sg_set_page(ctx->sgl.sgl, page, size, offset);
 154
 155         if (!(flags & MSG_MORE)) {
 156                 err = hash_alloc_result(sk, ctx);
 157                 if (err)
 158                         goto unlock;
 159         } else if (!ctx->more)
 160                 hash_free_result(sk, ctx);
 161
 162         ahash_request_set_crypt(&ctx->req, ctx->sgl.sgl, ctx->result, size);
 163
 164         if (!(flags & MSG_MORE)) {
 165                 if (ctx->more)
 166                         err = crypto_ahash_finup(&ctx->req);
 167                 else
 168                         err = crypto_ahash_digest(&ctx->req);
 169         } else {
 170                 if (!ctx->more) {
 171                         err = crypto_ahash_init(&ctx->req);
 172                         err = crypto_wait_req(err, &ctx->wait);
 173                         if (err)
 174                                 goto unlock;
 175                 }
 176
 177                 err = crypto_ahash_update(&ctx->req);
 178         }
 179
 180         err = crypto_wait_req(err, &ctx->wait);
 181         if (err)
 182                 goto unlock;
 183
 184         ctx->more = flags & MSG_MORE;
 185
 186 unlock:
 187         release_sock(sk);
 188
 189         return err ?: size;
 190 }
 191
 192 static int hash_recvmsg(struct socket *sock, struct msghdr *msg, size_t len,
 193                         int flags)
 194 {
 195         struct sock *sk = sock->sk;
 196         struct alg_sock *ask = alg_sk(sk);
 197         struct hash_ctx *ctx = ask->private;
 198         unsigned ds = crypto_ahash_digestsize(crypto_ahash_reqtfm(&ctx->req));
 199         bool result;
 200         int err;
 201
 202         if (len > ds)
 203                 len = ds;
 204         else if (len < ds)
 205                 msg->msg_flags |= MSG_TRUNC;
 206
 207         lock_sock(sk);
 208         result = ctx->result;
 209         err = hash_alloc_result(sk, ctx);
 210         if (err)
 211                 goto unlock;
 212
 213         ahash_request_set_crypt(&ctx->req, NULL, ctx->result, 0);
 214
 215         if (!result && !ctx->more) {
 216                 err = crypto_wait_req(crypto_ahash_init(&ctx->req),
 217                                       &ctx->wait);
 218                 if (err)
 219                         goto unlock;
 220         }
 221
 222         if (!result || ctx->more) {
 223                 ctx->more = false;
 224                 err = crypto_wait_req(crypto_ahash_final(&ctx->req),
 225                                       &ctx->wait);
 226                 if (err)
 227                         goto unlock;
 228         }
 229
 230         err = memcpy_to_msg(msg, ctx->result, len);
 231
 232 unlock:
 233         hash_free_result(sk, ctx);
 234         release_sock(sk);
 235
 236         return err ?: len;
 237 }
 238
 239 static int hash_accept(struct socket *sock, struct socket *newsock, int flags,
 240                        bool kern)
 241 {
 242         struct sock *sk = sock->sk;
 243         struct alg_sock *ask = alg_sk(sk);
 244         struct hash_ctx *ctx = ask->private;
 245         struct ahash_request *req = &ctx->req;
 246         struct crypto_ahash *tfm;
 247         struct sock *sk2;
 248         struct alg_sock *ask2;
 249         struct hash_ctx *ctx2;
 250         char *state;
 251         bool more;
 252         int err;
 253
 254         tfm = crypto_ahash_reqtfm(req);
 255         state = kmalloc(crypto_ahash_statesize(tfm), GFP_KERNEL);
 256         err = -ENOMEM;
 257         if (!state)
 258                 goto out;
 259
 260         lock_sock(sk);
 261         more = ctx->more;
 262         err = more ? crypto_ahash_export(req, state) : 0;
 263         release_sock(sk);
 264
 265         if (err)
 266                 goto out_free_state;
 267
 268         err = af_alg_accept(ask->parent, newsock, kern);
 269         if (err)
 270                 goto out_free_state;
 271
 272         sk2 = newsock->sk;
 273         ask2 = alg_sk(sk2);
 274         ctx2 = ask2->private;
 275         ctx2->more = more;
 276
 277         if (!more)
 278                 goto out_free_state;
 279
 280         err = crypto_ahash_import(&ctx2->req, state);
 281         if (err) {
 282                 sock_orphan(sk2);
 283                 sock_put(sk2);
 284         }
 285
 286 out_free_state:
 287         kfree_sensitive(state);
 288
 289 out:
 290         return err;
 291 }
 292
 293 static struct proto_ops algif_hash_ops = {
 294         .family         =       PF_ALG,
 295
 296         .connect        =       sock_no_connect,
 297         .socketpair     =       sock_no_socketpair,
 298         .getname        =       sock_no_getname,
 299         .ioctl          =       sock_no_ioctl,
 300         .listen         =       sock_no_listen,
 301         .shutdown       =       sock_no_shutdown,
 302         .mmap           =       sock_no_mmap,
 303         .bind           =       sock_no_bind,
 304
 305         .release        =       af_alg_release,
 306         .sendmsg        =       hash_sendmsg,
 307         .sendpage       =       hash_sendpage,
 308         .recvmsg        =       hash_recvmsg,
 309         .accept         =       hash_accept,
 310 };
 311
 312 static int hash_check_key(struct socket *sock)
 313 {
 314         int err = 0;
 315         struct sock *psk;
 316         struct alg_sock *pask;
 317         struct crypto_ahash *tfm;
 318         struct sock *sk = sock->sk;
 319         struct alg_sock *ask = alg_sk(sk);
 320
 321         lock_sock(sk);
 322         if (!atomic_read(&ask->nokey_refcnt))
 323                 goto unlock_child;
 324
 325         psk = ask->parent;
 326         pask = alg_sk(ask->parent);
 327         tfm = pask->private;
 328
 329         err = -ENOKEY;
 330         lock_sock_nested(psk, SINGLE_DEPTH_NESTING);
 331         if (crypto_ahash_get_flags(tfm) & CRYPTO_TFM_NEED_KEY)
 332                 goto unlock;
 333
 334         atomic_dec(&pask->nokey_refcnt);
 335         atomic_set(&ask->nokey_refcnt, 0);
 336
 337         err = 0;
 338
 339 unlock:
 340         release_sock(psk);
 341 unlock_child:
 342         release_sock(sk);
 343
 344         return err;
 345 }
 346
 347 static int hash_sendmsg_nokey(struct socket *sock, struct msghdr *msg,
 348                               size_t size)
 349 {
 350         int err;
 351
 352         err = hash_check_key(sock);
 353         if (err)
 354                 return err;
 355
 356         return hash_sendmsg(sock, msg, size);
 357 }
 358
 359 static ssize_t hash_sendpage_nokey(struct socket *sock, struct page *page,
 360                                    int offset, size_t size, int flags)
 361 {
 362         int err;
 363
 364         err = hash_check_key(sock);
 365         if (err)
 366                 return err;
 367
 368         return hash_sendpage(sock, page, offset, size, flags);
 369 }
 370
 371 static int hash_recvmsg_nokey(struct socket *sock, struct msghdr *msg,
 372                               size_t ignored, int flags)
 373 {
 374         int err;
 375
 376         err = hash_check_key(sock);
 377         if (err)
 378                 return err;
 379
 380         return hash_recvmsg(sock, msg, ignored, flags);
 381 }
 382
 383 static int hash_accept_nokey(struct socket *sock, struct socket *newsock,
 384                              int flags, bool kern)
 385 {
 386         int err;
 387
 388         err = hash_check_key(sock);
 389         if (err)
 390                 return err;
 391
 392         return hash_accept(sock, newsock, flags, kern);
 393 }
 394
 395 static struct proto_ops algif_hash_ops_nokey = {
 396         .family         =       PF_ALG,
 397
 398         .connect        =       sock_no_connect,
 399         .socketpair     =       sock_no_socketpair,
 400         .getname        =       sock_no_getname,
 401         .ioctl          =       sock_no_ioctl,
 402         .listen         =       sock_no_listen,
 403         .shutdown       =       sock_no_shutdown,
 404         .mmap           =       sock_no_mmap,
 405         .bind           =       sock_no_bind,
 406
 407         .release        =       af_alg_release,
 408         .sendmsg        =       hash_sendmsg_nokey,
 409         .sendpage       =       hash_sendpage_nokey,
 410         .recvmsg        =       hash_recvmsg_nokey,
 411         .accept         =       hash_accept_nokey,
 412 };
 413
 414 static void *hash_bind(const char *name, u32 type, u32 mask)
 415 {
 416         return crypto_alloc_ahash(name, type, mask);
 417 }
 418
 419 static void hash_release(void *private)
 420 {
 421         crypto_free_ahash(private);
 422 }
 423
 424 static int hash_setkey(void *private, const u8 *key, unsigned int keylen)
 425 {
 426         return crypto_ahash_setkey(private, key, keylen);
 427 }
 428
 429 static void hash_sock_destruct(struct sock *sk)
 430 {
 431         struct alg_sock *ask = alg_sk(sk);
 432         struct hash_ctx *ctx = ask->private;
 433
 434         hash_free_result(sk, ctx);
 435         sock_kfree_s(sk, ctx, ctx->len);
 436         af_alg_release_parent(sk);
 437 }
 438
 439 static int hash_accept_parent_nokey(void *private, struct sock *sk)
 440 {
 441         struct crypto_ahash *tfm = private;
 442         struct alg_sock *ask = alg_sk(sk);
 443         struct hash_ctx *ctx;
 444         unsigned int len = sizeof(*ctx) + crypto_ahash_reqsize(tfm);
 445
 446         ctx = sock_kmalloc(sk, len, GFP_KERNEL);
 447         if (!ctx)
 448                 return -ENOMEM;
 449
 450         ctx->result = NULL;
 451         ctx->len = len;
 452         ctx->more = false;
 453         crypto_init_wait(&ctx->wait);
 454
 455         ask->private = ctx;
 456
 457         ahash_request_set_tfm(&ctx->req, tfm);
 458         ahash_request_set_callback(&ctx->req, CRYPTO_TFM_REQ_MAY_BACKLOG,
 459                                    crypto_req_done, &ctx->wait);
 460
 461         sk->sk_destruct = hash_sock_destruct;
 462
 463         return 0;
 464 }
 465
 466 static int hash_accept_parent(void *private, struct sock *sk)
 467 {
 468         struct crypto_ahash *tfm = private;
 469
 470         if (crypto_ahash_get_flags(tfm) & CRYPTO_TFM_NEED_KEY)
 471                 return -ENOKEY;
 472
 473         return hash_accept_parent_nokey(private, sk);
 474 }
 475
 476 static const struct af_alg_type algif_type_hash = {
 477         .bind           =       hash_bind,
 478         .release        =       hash_release,
 479         .setkey         =       hash_setkey,
 480         .accept         =       hash_accept_parent,
 481         .accept_nokey   =       hash_accept_parent_nokey,
 482         .ops            =       &algif_hash_ops,
 483         .ops_nokey      =       &algif_hash_ops_nokey,
 484         .name           =       "hash",
 485         .owner          =       THIS_MODULE
 486 };
 487
 488 static int __init algif_hash_init(void)
 489 {
 490         return af_alg_register_type(&algif_type_hash);
 491 }
 492
 493 static void __exit algif_hash_exit(void)
 494 {
 495         int err = af_alg_unregister_type(&algif_type_hash);
 496         BUG_ON(err);
 497 }
 498
 499 module_init(algif_hash_init);
 500 module_exit(algif_hash_exit);
 501 MODULE_LICENSE("GPL");