home *** CD-ROM | disk | FTP | other *** search
/ Skunkware 5 / Skunkware 5.iso / src / Tools / lynx-2.4 / WWW / Library / Implementation / crypt_util.c < prev    next >
Encoding:
C/C++ Source or Header  |  1995-06-28  |  25.4 KB  |  982 lines

  1. /*
  2.  * UFC-crypt: ultra fast crypt(3) implementation
  3.  *
  4.  * Copyright (C) 1991, 1992, Free Software Foundation, Inc.
  5.  *
  6.  * This library is free software; you can redistribute it and/or
  7.  * modify it under the terms of the GNU Library General Public
  8.  * License as published by the Free Software Foundation; either
  9.  * version 2 of the License, or (at your option) any later version.
  10.  *
  11.  * This library is distributed in the hope that it will be useful,
  12.  * but WITHOUT ANY WARRANTY; without even the implied warranty of
  13.  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
  14.  * Library General Public License for more details.
  15.  *
  16.  * You should have received a copy of the GNU Library General Public
  17.  * License along with this library; if not, write to the Free
  18.  * Software Foundation, Inc., 675 Mass Ave, Cambridge, MA 02139, USA.
  19.  *
  20.  * @(#)crypt_util.c    2.40 09/21/92
  21.  *
  22.  * Support routines
  23.  *
  24.  */
  25.  
  26. #ifndef HTUTILS_H
  27. #include "HTUtils.h"
  28. #endif
  29.  
  30. #ifdef DEBUG
  31. /*#include <stdio.h>  included by HTUTils.h - FM */
  32. #endif
  33.  
  34. #ifndef STATIC
  35. #define STATIC static
  36. #endif
  37.  
  38. #ifndef DOS
  39. #include "patchlevel.h"
  40. #include "ufc-crypt.h"
  41. #else
  42. /*
  43.  * Thanks to greg%wind@plains.NoDak.edu (Greg W. Wettstein)
  44.  * for DOS patches
  45.  */
  46. #include "pl.h"
  47. #include "ufc.h"
  48. #endif
  49.  
  50. #include "LYLeaks.h"
  51.  
  52. static char patchlevel_str[] = PATCHLEVEL;
  53.  
  54. /* 
  55.  * Permutation done once on the 56 bit 
  56.  *  key derived from the original 8 byte ASCII key.
  57.  */
  58. static int pc1[56] = { 
  59.   57, 49, 41, 33, 25, 17,  9,  1, 58, 50, 42, 34, 26, 18,
  60.   10,  2, 59, 51, 43, 35, 27, 19, 11,  3, 60, 52, 44, 36,
  61.   63, 55, 47, 39, 31, 23, 15,  7, 62, 54, 46, 38, 30, 22,
  62.   14,  6, 61, 53, 45, 37, 29, 21, 13,  5, 28, 20, 12,  4
  63. };
  64.  
  65. /*
  66.  * How much to rotate each 28 bit half of the pc1 permutated
  67.  *  56 bit key before using pc2 to give the i' key
  68.  */
  69. static int rots[16] = { 
  70.   1, 1, 2, 2, 2, 2, 2, 2, 1, 2, 2, 2, 2, 2, 2, 1 
  71. };
  72.  
  73. /* 
  74.  * Permutation giving the key 
  75.  * of the i' DES round 
  76.  */
  77. static int pc2[48] = { 
  78.   14, 17, 11, 24,  1,  5,  3, 28, 15,  6, 21, 10,
  79.   23, 19, 12,  4, 26,  8, 16,  7, 27, 20, 13,  2,
  80.   41, 52, 31, 37, 47, 55, 30, 40, 51, 45, 33, 48,
  81.   44, 49, 39, 56, 34, 53, 46, 42, 50, 36, 29, 32
  82. };
  83.  
  84. /*
  85.  * The E expansion table which selects
  86.  * bits from the 32 bit intermediate result.
  87.  */
  88. static int esel[48] = { 
  89.   32,  1,  2,  3,  4,  5,  4,  5,  6,  7,  8,  9,
  90.    8,  9, 10, 11, 12, 13, 12, 13, 14, 15, 16, 17,
  91.   16, 17, 18, 19, 20, 21, 20, 21, 22, 23, 24, 25,
  92.   24, 25, 26, 27, 28, 29, 28, 29, 30, 31, 32,  1
  93. };
  94. static int e_inverse[64];
  95.  
  96. /* 
  97.  * Permutation done on the 
  98.  * result of sbox lookups 
  99.  */
  100. static int perm32[32] = {
  101.   16,  7, 20, 21, 29, 12, 28, 17,  1, 15, 23, 26,  5, 18, 31, 10,
  102.   2,   8, 24, 14, 32, 27,  3,  9, 19, 13, 30,  6, 22, 11,  4, 25
  103. };
  104.  
  105. /* 
  106.  * The sboxes
  107.  */
  108. static int sbox[8][4][16]= {
  109.         { { 14,  4, 13,  1,  2, 15, 11,  8,  3, 10,  6, 12,  5,  9,  0,  7 },
  110.           {  0, 15,  7,  4, 14,  2, 13,  1, 10,  6, 12, 11,  9,  5,  3,  8 },
  111.           {  4,  1, 14,  8, 13,  6,  2, 11, 15, 12,  9,  7,  3, 10,  5,  0 },
  112.           { 15, 12,  8,  2,  4,  9,  1,  7,  5, 11,  3, 14, 10,  0,  6, 13 }
  113.         },
  114.  
  115.         { { 15,  1,  8, 14,  6, 11,  3,  4,  9,  7,  2, 13, 12,  0,  5, 10 },
  116.           {  3, 13,  4,  7, 15,  2,  8, 14, 12,  0,  1, 10,  6,  9, 11,  5 },
  117.           {  0, 14,  7, 11, 10,  4, 13,  1,  5,  8, 12,  6,  9,  3,  2, 15 },
  118.           { 13,  8, 10,  1,  3, 15,  4,  2, 11,  6,  7, 12,  0,  5, 14,  9 }
  119.         },
  120.  
  121.         { { 10,  0,  9, 14,  6,  3, 15,  5,  1, 13, 12,  7, 11,  4,  2,  8 },
  122.           { 13,  7,  0,  9,  3,  4,  6, 10,  2,  8,  5, 14, 12, 11, 15,  1 },
  123.           { 13,  6,  4,  9,  8, 15,  3,  0, 11,  1,  2, 12,  5, 10, 14,  7 },
  124.           {  1, 10, 13,  0,  6,  9,  8,  7,  4, 15, 14,  3, 11,  5,  2, 12 }
  125.         },
  126.  
  127.         { {  7, 13, 14,  3,  0,  6,  9, 10,  1,  2,  8,  5, 11, 12,  4, 15 },
  128.           { 13,  8, 11,  5,  6, 15,  0,  3,  4,  7,  2, 12,  1, 10, 14,  9 },
  129.           { 10,  6,  9,  0, 12, 11,  7, 13, 15,  1,  3, 14,  5,  2,  8,  4 },
  130.           {  3, 15,  0,  6, 10,  1, 13,  8,  9,  4,  5, 11, 12,  7,  2, 14 }
  131.         },
  132.  
  133.         { {  2, 12,  4,  1,  7, 10, 11,  6,  8,  5,  3, 15, 13,  0, 14,  9 },
  134.           { 14, 11,  2, 12,  4,  7, 13,  1,  5,  0, 15, 10,  3,  9,  8,  6 },
  135.           {  4,  2,  1, 11, 10, 13,  7,  8, 15,  9, 12,  5,  6,  3,  0, 14 },
  136.           { 11,  8, 12,  7,  1, 14,  2, 13,  6, 15,  0,  9, 10,  4,  5,  3 }
  137.         },
  138.  
  139.         { { 12,  1, 10, 15,  9,  2,  6,  8,  0, 13,  3,  4, 14,  7,  5, 11 },
  140.           { 10, 15,  4,  2,  7, 12,  9,  5,  6,  1, 13, 14,  0, 11,  3,  8 },
  141.           {  9, 14, 15,  5,  2,  8, 12,  3,  7,  0,  4, 10,  1, 13, 11,  6 },
  142.           {  4,  3,  2, 12,  9,  5, 15, 10, 11, 14,  1,  7,  6,  0,  8, 13 }
  143.         },
  144.  
  145.         { {  4, 11,  2, 14, 15,  0,  8, 13,  3, 12,  9,  7,  5, 10,  6,  1 },
  146.           { 13,  0, 11,  7,  4,  9,  1, 10, 14,  3,  5, 12,  2, 15,  8,  6 },
  147.           {  1,  4, 11, 13, 12,  3,  7, 14, 10, 15,  6,  8,  0,  5,  9,  2 },
  148.           {  6, 11, 13,  8,  1,  4, 10,  7,  9,  5,  0, 15, 14,  2,  3, 12 }
  149.         },
  150.  
  151.         { { 13,  2,  8,  4,  6, 15, 11,  1, 10,  9,  3, 14,  5,  0, 12,  7 },
  152.           {  1, 15, 13,  8, 10,  3,  7,  4, 12,  5,  6, 11,  0, 14,  9,  2 },
  153.           {  7, 11,  4,  1,  9, 12, 14,  2,  0,  6, 10, 13, 15,  3,  5,  8 },
  154.           {  2,  1, 14,  7,  4, 10,  8, 13, 15, 12,  9,  0,  3,  5,  6, 11 }
  155.         }
  156. };
  157.  
  158. /* 
  159.  * This is the initial 
  160.  * permutation matrix
  161.  */
  162. static int initial_perm[64] = { 
  163.   58, 50, 42, 34, 26, 18, 10,  2, 60, 52, 44, 36, 28, 20, 12, 4,
  164.   62, 54, 46, 38, 30, 22, 14,  6, 64, 56, 48, 40, 32, 24, 16, 8,
  165.   57, 49, 41, 33, 25, 17,  9,  1, 59, 51, 43, 35, 27, 19, 11, 3,
  166.   61, 53, 45, 37, 29, 21, 13,  5, 63, 55, 47, 39, 31, 23, 15, 7
  167. };
  168.  
  169. /* 
  170.  * This is the final 
  171.  * permutation matrix
  172.  */
  173. static int final_perm[64] = {
  174.   40,  8, 48, 16, 56, 24, 64, 32, 39,  7, 47, 15, 55, 23, 63, 31,
  175.   38,  6, 46, 14, 54, 22, 62, 30, 37,  5, 45, 13, 53, 21, 61, 29,
  176.   36,  4, 44, 12, 52, 20, 60, 28, 35,  3, 43, 11, 51, 19, 59, 27,
  177.   34,  2, 42, 10, 50, 18, 58, 26, 33,  1, 41,  9, 49, 17, 57, 25
  178. };
  179.  
  180. /* 
  181.  * The 16 DES keys in BITMASK format 
  182.  */
  183. #ifdef _UFC_32_
  184. long32 _ufc_keytab[16][2];
  185. #endif
  186. #ifdef _UFC_64_
  187. long64 _ufc_keytab[16];
  188. #endif
  189.  
  190. #define ascii_to_bin(c) ((c)>='a'?(c-59):(c)>='A'?((c)-53):(c)-'.')
  191. #define bin_to_ascii(c) ((c)>=38?((c)-38+'a'):(c)>=12?((c)-12+'A'):(c)+'.')
  192.  
  193. /* Macro to set a bit (0..23) */
  194. #define BITMASK(i) ( (1L<<(11L-(i)%12L+3L)) << ((i)<12L?16L:0L) )
  195.  
  196. /*
  197.  * sb arrays:
  198.  *
  199.  * Workhorses of the inner loop of the DES implementation.
  200.  * They do sbox lookup, shifting of this  value, 32 bit
  201.  * permutation and E permutation for the next round.
  202.  *
  203.  * Kept in 'BITMASK' format.
  204.  */
  205.  
  206. #ifdef _UFC_32_
  207. long32 _ufc_sb0[8192], _ufc_sb1[8192], _ufc_sb2[8192], _ufc_sb3[8192];
  208. static long32 *sb[4] = {_ufc_sb0, _ufc_sb1, _ufc_sb2, _ufc_sb3}; 
  209. #endif
  210.  
  211. #ifdef _UFC_64_
  212. long64 _ufc_sb0[4096], _ufc_sb1[4096], _ufc_sb2[4096], _ufc_sb3[4096];
  213. static long64 *sb[4] = {_ufc_sb0, _ufc_sb1, _ufc_sb2, _ufc_sb3}; 
  214. #endif
  215.  
  216. /* 
  217.  * eperm32tab: do 32 bit permutation and E selection
  218.  *
  219.  * The first index is the byte number in the 32 bit value to be permuted
  220.  *  -  second  -   is the value of this byte
  221.  *  -  third   -   selects the two 32 bit values
  222.  *
  223.  * The table is used and generated internally in init_des to speed it up
  224.  */
  225. static ufc_long eperm32tab[4][256][2];
  226.  
  227. /* 
  228.  * do_pc1: permform pc1 permutation in the key schedule generation.
  229.  *
  230.  * The first   index is the byte number in the 8 byte ASCII key
  231.  *  -  second    -      -    the two 28 bits halfs of the result
  232.  *  -  third     -   selects the 7 bits actually used of each byte
  233.  *
  234.  * The result is kept with 28 bit per 32 bit with the 4 most significant
  235.  * bits zero.
  236.  */
  237. static ufc_long do_pc1[8][2][128];
  238.  
  239. /*
  240.  * do_pc2: permform pc2 permutation in the key schedule generation.
  241.  *
  242.  * The first   index is the septet number in the two 28 bit intermediate values
  243.  *  -  second    -    -  -  septet values
  244.  *
  245.  * Knowledge of the structure of the pc2 permutation is used.
  246.  *
  247.  * The result is kept with 28 bit per 32 bit with the 4 most significant
  248.  * bits zero.
  249.  */
  250. static ufc_long do_pc2[8][128];
  251.  
  252. /*
  253.  * efp: undo an extra e selection and do final
  254.  *      permutation giving the DES result.
  255.  * 
  256.  *      Invoked 6 bit a time on two 48 bit values
  257.  *      giving two 32 bit longs.
  258.  */
  259. static ufc_long efp[16][64][2];
  260.  
  261. /*
  262.  * revfinal: undo final permutation and do E expension.
  263.  *
  264.  *           Invoked 6 bit a time on DES output
  265.  *           giving 4 32 bit longs.
  266.  */
  267. static ufc_long revfinal[11][64][4];
  268.  
  269.  
  270. static unsigned char bytemask[8]  = {
  271.   0x80, 0x40, 0x20, 0x10, 0x08, 0x04, 0x02, 0x01
  272. };
  273.  
  274. static ufc_long longmask[32] = {
  275.   0x80000000, 0x40000000, 0x20000000, 0x10000000,
  276.   0x08000000, 0x04000000, 0x02000000, 0x01000000,
  277.   0x00800000, 0x00400000, 0x00200000, 0x00100000,
  278.   0x00080000, 0x00040000, 0x00020000, 0x00010000,
  279.   0x00008000, 0x00004000, 0x00002000, 0x00001000,
  280.   0x00000800, 0x00000400, 0x00000200, 0x00000100,
  281.   0x00000080, 0x00000040, 0x00000020, 0x00000010,
  282.   0x00000008, 0x00000004, 0x00000002, 0x00000001
  283. };
  284.  
  285. #ifdef DEBUG
  286.  
  287. pr_bits(a, n)
  288.   ufc_long *a;
  289.   int n;
  290.   { ufc_long i, j, t, tmp;
  291.     n /= 8;
  292.     for(i = 0; i < n; i++) {
  293.       tmp=0;
  294.       for(j = 0; j < 8; j++) {
  295.     t=8*i+j;
  296.     tmp|=(a[t/24] & BITMASK(t % 24))?bytemask[j]:0;
  297.       }
  298.       (void)printf("%02x ",tmp);
  299.     }
  300.     printf(" ");
  301.   }
  302.  
  303. static set_bits(v, b)
  304.   ufc_long v;
  305.   ufc_long *b;
  306.   { ufc_long i;
  307.     *b = 0;
  308.     for(i = 0; i < 24; i++) {
  309.       if(v & longmask[8 + i])
  310.     *b |= BITMASK(i);
  311.     }
  312.   }
  313.  
  314. #endif
  315.  
  316. /*
  317.  * Silly rewrite of 'bzero'. I do so
  318.  * because some machines don't have
  319.  * bzero and some don't have memset.
  320.  */
  321.  
  322. STATIC void clearmem(start, cnt)
  323.   char *start;
  324.   int cnt;
  325.   { while(cnt--)
  326.       *start++ = '\0';
  327.   }
  328.  
  329. static int initialized = 0;
  330.  
  331. /* lookup a 6 bit value in sbox */
  332.  
  333. #define s_lookup(i,s) sbox[(i)][(((s)>>4) & 0x2)|((s) & 0x1)][((s)>>1) & 0xf];
  334.  
  335. /*
  336.  * Initialize unit - may be invoked directly
  337.  * by fcrypt users.
  338.  */
  339.  
  340. void init_des()
  341.   { int comes_from_bit;
  342.     int bit, sg;
  343.     ufc_long j;
  344.     ufc_long mask1, mask2;
  345.  
  346.     /*
  347.      * Create the do_pc1 table used
  348.      * to affect pc1 permutation
  349.      * when generating keys
  350.      */
  351.     for(bit = 0; bit < 56; bit++) {
  352.       comes_from_bit  = pc1[bit] - 1;
  353.       mask1 = bytemask[comes_from_bit % 8 + 1];
  354.       mask2 = longmask[bit % 28 + 4];
  355.       for(j = 0; j < 128; j++) {
  356.     if(j & mask1) 
  357.       do_pc1[comes_from_bit / 8][bit / 28][j] |= mask2;
  358.       }
  359.     }
  360.  
  361.     /*
  362.      * Create the do_pc2 table used
  363.      * to affect pc2 permutation when
  364.      * generating keys
  365.      */
  366.     for(bit = 0; bit < 48; bit++) {
  367.       comes_from_bit  = pc2[bit] - 1;
  368.       mask1 = bytemask[comes_from_bit % 7 + 1];
  369.       mask2 = BITMASK(bit % 24);
  370.       for(j = 0; j < 128; j++) {
  371.     if(j & mask1)
  372.       do_pc2[comes_from_bit / 7][j] |= mask2;
  373.       }
  374.     }
  375.  
  376.     /* 
  377.      * Now generate the table used to do combined
  378.      * 32 bit permutation and e expansion
  379.      *
  380.      * We use it because we have to permute 16384 32 bit
  381.      * longs into 48 bit in order to initialize sb.
  382.      *
  383.      * Looping 48 rounds per permutation becomes 
  384.      * just too slow...
  385.      *
  386.      */
  387.  
  388.     clearmem((char*)eperm32tab, sizeof(eperm32tab));
  389.  
  390.     for(bit = 0; bit < 48; bit++) {
  391.       ufc_long mask1,comes_from;
  392.     
  393.       comes_from = perm32[esel[bit]-1]-1;
  394.       mask1      = bytemask[comes_from % 8];
  395.     
  396.       for(j = 256; j--;) {
  397.     if(j & mask1)
  398.       eperm32tab[comes_from / 8][j][bit / 24] |= BITMASK(bit % 24);
  399.       }
  400.     }
  401.     
  402.     /* 
  403.      * Create the sb tables:
  404.      *
  405.      * For each 12 bit segment of an 48 bit intermediate
  406.      * result, the sb table precomputes the two 4 bit
  407.      * values of the sbox lookups done with the two 6
  408.      * bit halves, shifts them to their proper place,
  409.      * sends them through perm32 and finally E expands
  410.      * them so that they are ready for the next
  411.      * DES round.
  412.      *
  413.      */
  414.     for(sg = 0; sg < 4; sg++) {
  415.       int j1, j2;
  416.       int s1, s2;
  417.     
  418.       for(j1 = 0; j1 < 64; j1++) {
  419.     s1 = s_lookup(2 * sg, j1);
  420.     for(j2 = 0; j2 < 64; j2++) {
  421.       ufc_long to_permute, inx;
  422.     
  423.       s2         = s_lookup(2 * sg + 1, j2);
  424.       to_permute = (((ufc_long)s1 << 4)  | 
  425.                    (ufc_long)s2) << (24 - 8 * (ufc_long)sg);
  426.  
  427. #ifdef _UFC_32_
  428.       inx = ((j1 << 6)  | j2) << 1;
  429.       sb[sg][inx  ]  = eperm32tab[0][(to_permute >> 24) & 0xff][0];
  430.       sb[sg][inx+1]  = eperm32tab[0][(to_permute >> 24) & 0xff][1];
  431.       sb[sg][inx  ] |= eperm32tab[1][(to_permute >> 16) & 0xff][0];
  432.       sb[sg][inx+1] |= eperm32tab[1][(to_permute >> 16) & 0xff][1];
  433.         sb[sg][inx  ] |= eperm32tab[2][(to_permute >>  8) & 0xff][0];
  434.       sb[sg][inx+1] |= eperm32tab[2][(to_permute >>  8) & 0xff][1];
  435.       sb[sg][inx  ] |= eperm32tab[3][(to_permute)       & 0xff][0];
  436.       sb[sg][inx+1] |= eperm32tab[3][(to_permute)       & 0xff][1];
  437. #endif
  438. #ifdef _UFC_64_
  439.       inx = ((j1 << 6)  | j2);
  440.       sb[sg][inx]  = 
  441.         ((long64)eperm32tab[0][(to_permute >> 24) & 0xff][0] << 32) |
  442.          (long64)eperm32tab[0][(to_permute >> 24) & 0xff][1];
  443.       sb[sg][inx] |=
  444.         ((long64)eperm32tab[1][(to_permute >> 16) & 0xff][0] << 32) |
  445.          (long64)eperm32tab[1][(to_permute >> 16) & 0xff][1];
  446.         sb[sg][inx] |= 
  447.         ((long64)eperm32tab[2][(to_permute >>  8) & 0xff][0] << 32) |
  448.          (long64)eperm32tab[2][(to_permute >>  8) & 0xff][1];
  449.       sb[sg][inx] |=
  450.         ((long64)eperm32tab[3][(to_permute)       & 0xff][0] << 32) |
  451.          (long64)eperm32tab[3][(to_permute)       & 0xff][1];
  452. #endif
  453.     }
  454.       }
  455.     }  
  456.  
  457.     /* 
  458.      * Create an inverse matrix for esel telling
  459.      * where to plug out bits if undoing it
  460.      */
  461.     for(bit=48; bit--;) {
  462.       e_inverse[esel[bit] - 1     ] = bit;
  463.       e_inverse[esel[bit] - 1 + 32] = bit + 48;
  464.     }
  465.  
  466.     /* 
  467.      * create efp: the matrix used to
  468.      * undo the E expansion and effect final permutation
  469.      */
  470.     clearmem((char*)efp, sizeof efp);
  471.     for(bit = 0; bit < 64; bit++) {
  472.       int o_bit, o_long;
  473.       ufc_long word_value, mask1, mask2;
  474.       int comes_from_f_bit, comes_from_e_bit;
  475.       int comes_from_word, bit_within_word;
  476.  
  477.       /* See where bit i belongs in the two 32 bit long's */
  478.       o_long = bit / 32; /* 0..1  */
  479.       o_bit  = bit % 32; /* 0..31 */
  480.  
  481.       /* 
  482.        * And find a bit in the e permutated value setting this bit.
  483.        *
  484.        * Note: the e selection may have selected the same bit several
  485.        * times. By the initialization of e_inverse, we only look
  486.        * for one specific instance.
  487.        */
  488.       comes_from_f_bit = final_perm[bit] - 1;         /* 0..63 */
  489.       comes_from_e_bit = e_inverse[comes_from_f_bit]; /* 0..95 */
  490.       comes_from_word  = comes_from_e_bit / 6;        /* 0..15 */
  491.       bit_within_word  = comes_from_e_bit % 6;        /* 0..5  */
  492.  
  493.       mask1 = longmask[bit_within_word + 26];
  494.       mask2 = longmask[o_bit];
  495.  
  496.       for(word_value = 64; word_value--;) {
  497.     if(word_value & mask1)
  498.       efp[comes_from_word][word_value][o_long] |= mask2;
  499.       }
  500.     }
  501.  
  502.     
  503.     /*
  504.      * Create revfinal: an array to undo final
  505.      * the effects of efp
  506.      */
  507.     clearmem((char*)revfinal, sizeof(revfinal));
  508.     for(bit = 0; bit < 96; bit++) {
  509.       int ibit = initial_perm[esel[bit % 48] - 1 + ((bit >= 48) ? 32 : 0)] - 1;
  510.       mask1 = bytemask[ibit % 6 +  2];
  511.       mask2 = BITMASK(bit % 24);
  512.       for(j = 64; j--;) {
  513.         if(j & mask1) {
  514.           revfinal[ibit / 6][j][bit / 24] |= mask2;
  515.         }
  516.       }
  517.     }
  518.  
  519.     initialized++;
  520.   }
  521.  
  522. /* 
  523.  * Process the elements of the sb table permuting the
  524.  * bits swapped in the expansion by the current salt.
  525.  */
  526.  
  527. #ifdef _UFC_32_
  528. STATIC void shuffle_sb(k, saltbits)
  529.   long32 *k;
  530.   ufc_long saltbits;
  531.   { ufc_long j;
  532.     long32 x;
  533.     for(j=4096; j--;) {
  534.       x = (k[0] ^ k[1]) & (long32)saltbits;
  535.       *k++ ^= x;
  536.       *k++ ^= x;
  537.     }
  538.   }
  539. #endif
  540.  
  541. #ifdef _UFC_64_
  542. STATIC void shuffle_sb(k, saltbits)
  543.   long64 *k;
  544.   ufc_long saltbits;
  545.   { ufc_long j;
  546.     long64 x;
  547.     for(j=4096; j--;) {
  548.       x = ((*k >> 32) ^ *k) & (long64)saltbits;
  549.       *k++ ^= (x << 32) | x;
  550.     }
  551.   }
  552. #endif
  553.  
  554. /* 
  555.  * Setup the unit for a new salt
  556.  * Hopefully we'll not see a new salt in each crypt call.
  557.  */
  558.  
  559. static unsigned char current_salt[3] = "&&"; /* invalid value */
  560. static ufc_long current_saltbits = 0;
  561. static int direction = 0;
  562.  
  563. STATIC void setup_salt(s)
  564.   char *s;
  565.   { ufc_long i, j, saltbits;
  566.  
  567.     if(!initialized)
  568.       init_des();
  569.  
  570.     if(s[0] == current_salt[0] && s[1] == current_salt[1])
  571.       return;
  572.     current_salt[0] = s[0]; current_salt[1] = s[1];
  573.     
  574.     /* 
  575.      * This is the only crypt change to DES:
  576.      * entries are swapped in the expansion table
  577.      * according to the bits set in the salt.
  578.      */
  579.     saltbits = 0;
  580.     for(i = 0; i < 2; i++) {
  581.       long c=ascii_to_bin(s[i]);
  582. #ifdef notdef
  583.       /* 
  584.        * Some applications do rely on illegal
  585.        * salts. It seems that UFC-crypt behaves
  586.        * identically to standard crypt 
  587.        * implementations on illegal salts -- glad
  588.        */
  589.       if(c < 0 || c > 63)
  590.     c = 0;
  591. #endif
  592.       for(j = 0; j < 6; j++) {
  593.     if((c >> j) & 0x1)
  594.       saltbits |= BITMASK(6 * i + j);
  595.       }
  596.     }
  597.  
  598.     /*
  599.      * Permute the sb table values
  600.      * to reflect the changed e
  601.      * selection table
  602.      */
  603.     shuffle_sb(_ufc_sb0, current_saltbits ^ saltbits); 
  604.     shuffle_sb(_ufc_sb1, current_saltbits ^ saltbits);
  605.     shuffle_sb(_ufc_sb2, current_saltbits ^ saltbits);
  606.     shuffle_sb(_ufc_sb3, current_saltbits ^ saltbits);
  607.  
  608.     current_saltbits = saltbits;
  609.   }
  610.  
  611. STATIC void ufc_mk_keytab(key)
  612.   char *key;
  613.   { ufc_long v1, v2, *k1;
  614.     int i;
  615. #ifdef _UFC_32_
  616.     long32 v, *k2 = &_ufc_keytab[0][0];
  617. #endif
  618. #ifdef _UFC_64_
  619.     long64 v, *k2 = &_ufc_keytab[0];
  620. #endif
  621.  
  622.     v1 = v2 = 0; k1 = &do_pc1[0][0][0];
  623.     for(i = 8; i--;) {
  624.       v1 |= k1[*key   & 0x7f]; k1 += 128;
  625.       v2 |= k1[*key++ & 0x7f]; k1 += 128;
  626.     }
  627.  
  628.     for(i = 0; i < 16; i++) {
  629.       k1 = &do_pc2[0][0];
  630.  
  631.       v1 = (v1 << rots[i]) | (v1 >> (28 - rots[i]));
  632.       v  = k1[(v1 >> 21) & 0x7f]; k1 += 128;
  633.       v |= k1[(v1 >> 14) & 0x7f]; k1 += 128;
  634.       v |= k1[(v1 >>  7) & 0x7f]; k1 += 128;
  635.       v |= k1[(v1      ) & 0x7f]; k1 += 128;
  636.  
  637. #ifdef _UFC_32_
  638.       *k2++ = v;
  639.       v = 0;
  640. #endif
  641. #ifdef _UFC_64_
  642.       v <<= 32;
  643. #endif
  644.  
  645.       v2 = (v2 << rots[i]) | (v2 >> (28 - rots[i]));
  646.       v |= k1[(v2 >> 21) & 0x7f]; k1 += 128;
  647.       v |= k1[(v2 >> 14) & 0x7f]; k1 += 128;
  648.       v |= k1[(v2 >>  7) & 0x7f]; k1 += 128;
  649.       v |= k1[(v2      ) & 0x7f];
  650.  
  651.       *k2++ = v;
  652.     }
  653.  
  654.     direction = 0;
  655.   }
  656.  
  657. /* 
  658.  * Undo an extra E selection and do final permutations
  659.  */
  660.  
  661. ufc_long *_ufc_dofinalperm(l1, l2, r1, r2)
  662.   ufc_long l1,l2,r1,r2;
  663.   { ufc_long v1, v2, x;
  664.     static ufc_long ary[2];
  665.  
  666.     x = (l1 ^ l2) & current_saltbits; l1 ^= x; l2 ^= x;
  667.     x = (r1 ^ r2) & current_saltbits; r1 ^= x; r2 ^= x;
  668.  
  669.     v1=v2=0; l1 >>= 3; l2 >>= 3; r1 >>= 3; r2 >>= 3;
  670.  
  671.     v1 |= efp[15][ r2         & 0x3f][0]; v2 |= efp[15][ r2 & 0x3f][1];
  672.     v1 |= efp[14][(r2 >>= 6)  & 0x3f][0]; v2 |= efp[14][ r2 & 0x3f][1];
  673.     v1 |= efp[13][(r2 >>= 10) & 0x3f][0]; v2 |= efp[13][ r2 & 0x3f][1];
  674.     v1 |= efp[12][(r2 >>= 6)  & 0x3f][0]; v2 |= efp[12][ r2 & 0x3f][1];
  675.  
  676.     v1 |= efp[11][ r1         & 0x3f][0]; v2 |= efp[11][ r1 & 0x3f][1];
  677.     v1 |= efp[10][(r1 >>= 6)  & 0x3f][0]; v2 |= efp[10][ r1 & 0x3f][1];
  678.     v1 |= efp[ 9][(r1 >>= 10) & 0x3f][0]; v2 |= efp[ 9][ r1 & 0x3f][1];
  679.     v1 |= efp[ 8][(r1 >>= 6)  & 0x3f][0]; v2 |= efp[ 8][ r1 & 0x3f][1];
  680.  
  681.     v1 |= efp[ 7][ l2         & 0x3f][0]; v2 |= efp[ 7][ l2 & 0x3f][1];
  682.     v1 |= efp[ 6][(l2 >>= 6)  & 0x3f][0]; v2 |= efp[ 6][ l2 & 0x3f][1];
  683.     v1 |= efp[ 5][(l2 >>= 10) & 0x3f][0]; v2 |= efp[ 5][ l2 & 0x3f][1];
  684.     v1 |= efp[ 4][(l2 >>= 6)  & 0x3f][0]; v2 |= efp[ 4][ l2 & 0x3f][1];
  685.  
  686.     v1 |= efp[ 3][ l1         & 0x3f][0]; v2 |= efp[ 3][ l1 & 0x3f][1];
  687.     v1 |= efp[ 2][(l1 >>= 6)  & 0x3f][0]; v2 |= efp[ 2][ l1 & 0x3f][1];
  688.     v1 |= efp[ 1][(l1 >>= 10) & 0x3f][0]; v2 |= efp[ 1][ l1 & 0x3f][1];
  689.     v1 |= efp[ 0][(l1 >>= 6)  & 0x3f][0]; v2 |= efp[ 0][ l1 & 0x3f][1];
  690.  
  691.     ary[0] = v1; ary[1] = v2;
  692.     return ary;
  693.   }
  694.  
  695. /* 
  696.  * crypt only: convert from 64 bit to 11 bit ASCII 
  697.  * prefixing with the salt
  698.  */
  699.  
  700. STATIC char *output_conversion(v1, v2, salt)
  701.   ufc_long v1, v2;
  702.   char *salt;
  703.   { static char outbuf[14];
  704.     int i, s, shf;
  705.  
  706.     outbuf[0] = salt[0];
  707.     outbuf[1] = salt[1] ? salt[1] : salt[0];
  708.  
  709.     for(i = 0; i < 5; i++) {
  710.       shf = (26 - 6 * i); /* to cope with MSC compiler bug */
  711.       outbuf[i + 2] = bin_to_ascii((v1 >> shf) & 0x3f);
  712.     }
  713.  
  714.     s  = (v2 & 0xf) << 2;
  715.     v2 = (v2 >> 2) | ((v1 & 0x3) << 30);
  716.  
  717.     for(i = 5; i < 10; i++) {
  718.       shf = (56 - 6 * i);
  719.       outbuf[i + 2] = bin_to_ascii((v2 >> shf) & 0x3f);
  720.     }
  721.  
  722.     outbuf[12] = bin_to_ascii(s);
  723.     outbuf[13] = 0;
  724.  
  725.     return outbuf;
  726.   }
  727.  
  728. ufc_long *_ufc_doit();
  729.  
  730. /* 
  731.  * UNIX crypt function
  732.  */
  733.    
  734. char *crypt(key, salt)
  735.   char *key, *salt;
  736.   { ufc_long *s;
  737.     char ktab[9];
  738.  
  739.     /*
  740.      * Hack DES tables according to salt
  741.      */
  742.     setup_salt(salt);
  743.  
  744.     /*
  745.      * Setup key schedule
  746.      */
  747.     clearmem(ktab, sizeof ktab);
  748.     (void)strncpy(ktab, key, 8);
  749.     ufc_mk_keytab(ktab);
  750.  
  751.     /*
  752.      * Go for the 25 DES encryptions
  753.      */
  754.     s = _ufc_doit((ufc_long)0, (ufc_long)0, 
  755.           (ufc_long)0, (ufc_long)0, (ufc_long)25);
  756.     /*
  757.      * Do final permutations
  758.      */
  759.     s = _ufc_dofinalperm(s[0], s[1], s[2], s[3]);
  760.  
  761.     /*
  762.      * And convert back to 6 bit ASCII
  763.      */
  764.     return output_conversion(s[0], s[1], salt);
  765.   }
  766.  
  767. /* 
  768.  * To make fcrypt users happy.
  769.  * They don't need to call init_des.
  770.  */
  771.  
  772. char *fcrypt(key, salt)
  773.   char *key;
  774.   char *salt;
  775.   { return crypt(key, salt);
  776.   }
  777.  
  778. /* 
  779.  * UNIX encrypt function. Takes a bitvector
  780.  * represented by one byte per bit and
  781.  * encrypt/decrypt according to edflag
  782.  */
  783.  
  784. void encrypt(block, edflag)
  785.   char *block;
  786.   int edflag;
  787.   { ufc_long l1, l2, r1, r2, *s;
  788.     int i;
  789.  
  790.     /*
  791.      * Undo any salt changes to E expansion
  792.      */
  793.     setup_salt("..");
  794.  
  795.     /*
  796.      * Reverse key table if
  797.      * changing operation (encrypt/decrypt)
  798.      */
  799.     if((edflag == 0) != (direction == 0)) {
  800.       for(i = 0; i < 8; i++) {
  801. #ifdef _UFC_32_
  802.     long32 x;
  803.     x = _ufc_keytab[15-i][0]; 
  804.         _ufc_keytab[15-i][0] = _ufc_keytab[i][0]; 
  805.         _ufc_keytab[i][0] = x;
  806.  
  807.     x = _ufc_keytab[15-i][1]; 
  808.         _ufc_keytab[15-i][1] = _ufc_keytab[i][1]; 
  809.         _ufc_keytab[i][1] = x;
  810. #endif
  811. #ifdef _UFC_64_
  812.     long64 x;
  813.     x = _ufc_keytab[15-i];
  814.     _ufc_keytab[15-i] = _ufc_keytab[i];
  815.     _ufc_keytab[i] = x;
  816. #endif
  817.       }
  818.       direction = edflag;
  819.     }
  820.  
  821.     /*
  822.      * Do initial permutation + E expansion
  823.      */
  824.     i = 0;
  825.     for(l1 = 0; i < 24; i++) {
  826.       if(block[initial_perm[esel[i]-1]-1])
  827.     l1 |= BITMASK(i);
  828.     }
  829.     for(l2 = 0; i < 48; i++) {
  830.       if(block[initial_perm[esel[i]-1]-1])
  831.     l2 |= BITMASK(i-24);
  832.     }
  833.  
  834.     i = 0;
  835.     for(r1 = 0; i < 24; i++) {
  836.       if(block[initial_perm[esel[i]-1+32]-1])
  837.     r1 |= BITMASK(i);
  838.     }
  839.     for(r2 = 0; i < 48; i++) {
  840.       if(block[initial_perm[esel[i]-1+32]-1])
  841.     r2 |= BITMASK(i-24);
  842.     }
  843.  
  844.     /*
  845.      * Do DES inner loops + final conversion
  846.      */
  847.     s = _ufc_doit(l1, l2, r1, r2, (ufc_long)1);
  848.     /*
  849.      * Do final permutations
  850.      */
  851.     s = _ufc_dofinalperm(s[0], s[1], s[2], s[3]);
  852.  
  853.     /*
  854.      * And convert to bit array
  855.      */
  856.     l1 = s[0]; r1 = s[1];
  857.     for(i = 0; i < 32; i++) {
  858.       *block++ = (l1 & longmask[i]) != 0;
  859.     }
  860.     for(i = 0; i < 32; i++) {
  861.       *block++ = (r1 & longmask[i]) != 0;
  862.     }
  863.     
  864.   }
  865.  
  866. /* 
  867.  * UNIX setkey function. Take a 64 bit DES
  868.  * key and setup the machinery.
  869.  */
  870.  
  871. void setkey(key)
  872.   char *key;
  873.   { int i,j;
  874.     unsigned char c;
  875.     unsigned char ktab[8];
  876.  
  877.     setup_salt(".."); /* be sure we're initialized */
  878.  
  879.     for(i = 0; i < 8; i++) {
  880.       for(j = 0, c = 0; j < 8; j++)
  881.     c = c << 1 | *key++;
  882.       ktab[i] = c >> 1;
  883.     }
  884.     
  885.     ufc_mk_keytab(ktab);
  886.   }
  887.  
  888. /* 
  889.  * Ultrix crypt16 function, thanks to pcl@convex.oxford.ac.uk (Paul Leyland)
  890.  */
  891.    
  892. char *crypt16(key, salt)
  893.   char *key, *salt;
  894.   { ufc_long *s, *t;
  895.     char ktab[9], ttab[9];
  896.     static char q[14], res[25];
  897.     /*
  898.      * Hack DES tables according to salt
  899.      */
  900.     setup_salt(salt);
  901.     
  902.     /*
  903.      * Setup key schedule
  904.      */
  905.     clearmem(ktab, sizeof ktab);
  906.     (void)strncpy(ktab, key, 8);
  907.     ufc_mk_keytab(ktab);
  908.     
  909.     /*
  910.      * Go for first 20 DES encryptions
  911.      */
  912.     s = _ufc_doit((ufc_long)0, (ufc_long)0, 
  913.           (ufc_long)0, (ufc_long)0, (ufc_long)20);
  914.     
  915.     /*
  916.      * And convert back to 6 bit ASCII
  917.      */
  918.     strcpy (res, output_conversion(s[0], s[1], salt));
  919.     
  920.     clearmem(ttab, sizeof ttab);
  921.     if (strlen (key) > 8) (void)strncpy(ttab, key+8, 8);
  922.     ufc_mk_keytab(ttab);
  923.     
  924.     /*
  925.      * Go for second 5 DES encryptions
  926.      */
  927.     t = _ufc_doit((ufc_long)0, (ufc_long)0, 
  928.           (ufc_long)0, (ufc_long)0, (ufc_long)5);
  929.     /*
  930.      * And convert back to 6 bit ASCII
  931.      */
  932.     strcpy (q, output_conversion(t[0], t[1], salt));
  933.     strcpy (res+13, q+2);
  934.     
  935.     clearmem(ktab, sizeof ktab);
  936.     (void)strncpy(ktab, key, 8);
  937.     ufc_mk_keytab(ktab);
  938.     
  939.     return res;
  940.   }
  941.  
  942. /*
  943.  * Experimental -- not supported -- may choke your dog
  944.  */
  945.  
  946. void ufc_setup_password(cookie, s)
  947.   long *cookie;
  948.   char *s;
  949.   { char c;
  950.     int i;
  951.     ufc_long x;
  952.     ufc_long dl1, dl2, dr1, dr2;
  953.  
  954.     setup_salt(s);
  955.     dl1 = dl2 = dr1 = dr2 = 0;
  956.     for(i = 0, s += 2; c = *s++; i++) {
  957.       int x = ascii_to_bin(c);
  958.       dl1 |= revfinal[i][x][0];
  959.       dl2 |= revfinal[i][x][1];
  960.       dr1 |= revfinal[i][x][2];
  961.       dr2 |= revfinal[i][x][3];
  962.     }
  963.     x = (dl1 ^ dl2) & current_saltbits;
  964.     x = (dr1 ^ dr2) & current_saltbits;
  965.     cookie[0] = dl1 ^ x; cookie[1] = dl2 ^ x;
  966.     cookie[2] = dr1 ^ x; cookie[3] = dr2 ^ x;
  967.   }
  968.  
  969. void ufc_do_pw(cookie, guess)
  970.   long *cookie;  
  971.   char *guess;
  972.   { char ktab[9];
  973.     ufc_long *s;
  974.     clearmem(ktab, sizeof ktab);
  975.     (void)strncpy(ktab, guess, 8);
  976.     ufc_mk_keytab(ktab);
  977.     s = _ufc_doit((ufc_long)0, (ufc_long)0, 
  978.           (ufc_long)0, (ufc_long)0, (ufc_long)25);
  979.     cookie[0] = s[0];    cookie[1] = s[1];
  980.     cookie[2] = s[2];    cookie[3] = s[3];
  981.   }
  982.