Fix unfolding of RFC822 lines so we don't loose blanks.
[citadel.git] / citadel / internet_addressing.c
1 /*
2  * $Id$
3  *
4  * This file contains functions which handle the mapping of Internet addresses
5  * to users on the Citadel system.
6  */
7
8 #include "sysdep.h"
9 #include <stdlib.h>
10 #include <unistd.h>
11 #include <stdio.h>
12 #include <fcntl.h>
13 #include <ctype.h>
14 #include <signal.h>
15 #include <pwd.h>
16 #include <errno.h>
17 #include <sys/types.h>
18
19 #if TIME_WITH_SYS_TIME
20 # include <sys/time.h>
21 # include <time.h>
22 #else
23 # if HAVE_SYS_TIME_H
24 #  include <sys/time.h>
25 # else
26 #  include <time.h>
27 # endif
28 #endif
29
30 #include <sys/wait.h>
31 #include <string.h>
32 #include <limits.h>
33 #include <libcitadel.h>
34 #include "citadel.h"
35 #include "server.h"
36 #include "sysdep_decls.h"
37 #include "citserver.h"
38 #include "support.h"
39 #include "config.h"
40 #include "msgbase.h"
41 #include "internet_addressing.h"
42 #include "user_ops.h"
43 #include "room_ops.h"
44 #include "parsedate.h"
45 #include "database.h"
46
47 #include "ctdl_module.h"
48
49 #ifndef HAVE_SNPRINTF
50 #include "snprintf.h"
51 #endif
52
53
54 #ifdef HAVE_ICONV
55 #include <iconv.h>
56
57 #if 0
58 /* This is the non-define version in case of s.b. needing to debug */
59 inline void FindNextEnd (char *bptr, char *end)
60 {
61         /* Find the next ?Q? */
62         end = strchr(bptr + 2, '?');
63         if (end == NULL) return NULL;
64         if (((*(end + 1) == 'B') || (*(end + 1) == 'Q')) && 
65             (*(end + 2) == '?')) {
66                 /* skip on to the end of the cluster, the next ?= */
67                 end = strstr(end + 3, "?=");
68         }
69         else
70                 /* sort of half valid encoding, try to find an end. */
71                 end = strstr(bptr, "?=");
72 }
73 #endif
74
75 #define FindNextEnd(bptr, end) { \
76         end = strchr(bptr + 2, '?'); \
77         if (end != NULL) { \
78                 if (((*(end + 1) == 'B') || (*(end + 1) == 'Q')) && (*(end + 2) == '?')) { \
79                         end = strstr(end + 3, "?="); \
80                 } else end = strstr(bptr, "?="); \
81         } \
82 }
83
84 /*
85  * Handle subjects with RFC2047 encoding such as:
86  * =?koi8-r?B?78bP0s3Mxc7JxSDXz9rE1dvO2c3JINvB0sHNySDP?=
87  */
88 void utf8ify_rfc822_string(char *buf) {
89         char *start, *end, *next, *nextend, *ptr;
90         char newbuf[1024];
91         char charset[128];
92         char encoding[16];
93         char istr[1024];
94         iconv_t ic = (iconv_t)(-1) ;
95         char *ibuf;                     /**< Buffer of characters to be converted */
96         char *obuf;                     /**< Buffer for converted characters */
97         size_t ibuflen;                 /**< Length of input buffer */
98         size_t obuflen;                 /**< Length of output buffer */
99         char *isav;                     /**< Saved pointer to input buffer */
100         char *osav;                     /**< Saved pointer to output buffer */
101         int passes = 0;
102         int i, len, delta;
103         int illegal_non_rfc2047_encoding = 0;
104
105         /* Sometimes, badly formed messages contain strings which were simply
106          *  written out directly in some foreign character set instead of
107          *  using RFC2047 encoding.  This is illegal but we will attempt to
108          *  handle it anyway by converting from a user-specified default
109          *  charset to UTF-8 if we see any nonprintable characters.
110          */
111         len = strlen(buf);
112         for (i=0; i<len; ++i) {
113                 if ((buf[i] < 32) || (buf[i] > 126)) {
114                         illegal_non_rfc2047_encoding = 1;
115                         i = len; ///< take a shortcut, it won't be more than one.
116                 }
117         }
118         if (illegal_non_rfc2047_encoding) {
119                 const char *default_header_charset = "iso-8859-1";
120                 if ( (strcasecmp(default_header_charset, "UTF-8")) && (strcasecmp(default_header_charset, "us-ascii")) ) {
121                         ctdl_iconv_open("UTF-8", default_header_charset, &ic);
122                         if (ic != (iconv_t)(-1) ) {
123                                 ibuf = malloc(1024);
124                                 isav = ibuf;
125                                 safestrncpy(ibuf, buf, 1024);
126                                 ibuflen = strlen(ibuf);
127                                 obuflen = 1024;
128                                 obuf = (char *) malloc(obuflen);
129                                 osav = obuf;
130                                 iconv(ic, &ibuf, &ibuflen, &obuf, &obuflen);
131                                 osav[1024-obuflen] = 0;
132                                 strcpy(buf, osav);
133                                 free(osav);
134                                 iconv_close(ic);
135                                 free(isav);
136                         }
137                 }
138         }
139
140         /* pre evaluate the first pair */
141         nextend = end = NULL;
142         len = strlen(buf);
143         start = strstr(buf, "=?");
144         if (start != NULL) 
145                 FindNextEnd (start, end);
146
147         while ((start != NULL) && (end != NULL))
148         {
149                 next = strstr(end, "=?");
150                 if (next != NULL)
151                         FindNextEnd(next, nextend);
152                 if (nextend == NULL)
153                         next = NULL;
154
155                 /* did we find two partitions */
156                 if ((next != NULL) && 
157                     ((next - end) > 2))
158                 {
159                         ptr = end + 2;
160                         while ((ptr < next) && 
161                                (isspace(*ptr) ||
162                                 (*ptr == '\r') ||
163                                 (*ptr == '\n') || 
164                                 (*ptr == '\t')))
165                                 ptr ++;
166                         /* did we find a gab just filled with blanks? */
167                         if (ptr == next)
168                         {
169                                 memmove (end + 2,
170                                          next,
171                                          len - (next - start));
172
173                                 /* now terminate the gab at the end */
174                                 delta = (next - end) - 2;
175                                 len -= delta;
176                                 buf[len] = '\0';
177
178                                 /* move next to its new location. */
179                                 next -= delta;
180                                 nextend -= delta;
181                         }
182                 }
183                 /* our next-pair is our new first pair now. */
184                 start = next;
185                 end = nextend;
186         }
187
188         /* Now we handle foreign character sets properly encoded
189          * in RFC2047 format.
190          */
191         start = strstr(buf, "=?");
192         FindNextEnd((start != NULL)? start : buf, end);
193         while (start != NULL && end != NULL && end > start)
194         {
195                 extract_token(charset, start, 1, '?', sizeof charset);
196                 extract_token(encoding, start, 2, '?', sizeof encoding);
197                 extract_token(istr, start, 3, '?', sizeof istr);
198
199                 ibuf = malloc(1024);
200                 isav = ibuf;
201                 if (!strcasecmp(encoding, "B")) {       /**< base64 */
202                         ibuflen = CtdlDecodeBase64(ibuf, istr, strlen(istr));
203                 }
204                 else if (!strcasecmp(encoding, "Q")) {  /**< quoted-printable */
205                         size_t len;
206                         long pos;
207                         
208                         len = strlen(istr);
209                         pos = 0;
210                         while (pos < len)
211                         {
212                                 if (istr[pos] == '_') istr[pos] = ' ';
213                                 pos++;
214                         }
215
216                         ibuflen = CtdlDecodeQuotedPrintable(ibuf, istr, len);
217                 }
218                 else {
219                         strcpy(ibuf, istr);             /**< unknown encoding */
220                         ibuflen = strlen(istr);
221                 }
222
223                 ctdl_iconv_open("UTF-8", charset, &ic);
224                 if (ic != (iconv_t)(-1) ) {
225                         obuflen = 1024;
226                         obuf = (char *) malloc(obuflen);
227                         osav = obuf;
228                         iconv(ic, &ibuf, &ibuflen, &obuf, &obuflen);
229                         osav[1024-obuflen] = 0;
230
231                         end = start;
232                         end++;
233                         strcpy(start, "");
234                         remove_token(end, 0, '?');
235                         remove_token(end, 0, '?');
236                         remove_token(end, 0, '?');
237                         remove_token(end, 0, '?');
238                         strcpy(end, &end[1]);
239
240                         snprintf(newbuf, sizeof newbuf, "%s%s%s", buf, osav, end);
241                         strcpy(buf, newbuf);
242                         free(osav);
243                         iconv_close(ic);
244                 }
245                 else {
246                         end = start;
247                         end++;
248                         strcpy(start, "");
249                         remove_token(end, 0, '?');
250                         remove_token(end, 0, '?');
251                         remove_token(end, 0, '?');
252                         remove_token(end, 0, '?');
253                         strcpy(end, &end[1]);
254
255                         snprintf(newbuf, sizeof newbuf, "%s(unreadable)%s", buf, end);
256                         strcpy(buf, newbuf);
257                 }
258
259                 free(isav);
260
261                 /*
262                  * Since spammers will go to all sorts of absurd lengths to get their
263                  * messages through, there are LOTS of corrupt headers out there.
264                  * So, prevent a really badly formed RFC2047 header from throwing
265                  * this function into an infinite loop.
266                  */
267                 ++passes;
268                 if (passes > 20) return;
269
270                 start = strstr(buf, "=?");
271                 FindNextEnd((start != NULL)? start : buf, end);
272         }
273
274 }
275 #else
276 inline void utf8ify_rfc822_string(char *a){};
277
278 #endif
279
280
281
282 struct trynamebuf {
283         char buffer1[SIZ];
284         char buffer2[SIZ];
285 };
286
287 char *inetcfg = NULL;
288 struct spamstrings_t *spamstrings = NULL;
289
290
291 /*
292  * Return nonzero if the supplied name is an alias for this host.
293  */
294 int CtdlHostAlias(char *fqdn) {
295         int config_lines;
296         int i;
297         char buf[256];
298         char host[256], type[256];
299         int found = 0;
300
301         if (fqdn == NULL) return(hostalias_nomatch);
302         if (IsEmptyStr(fqdn)) return(hostalias_nomatch);
303         if (!strcasecmp(fqdn, "localhost")) return(hostalias_localhost);
304         if (!strcasecmp(fqdn, config.c_fqdn)) return(hostalias_localhost);
305         if (!strcasecmp(fqdn, config.c_nodename)) return(hostalias_localhost);
306         if (inetcfg == NULL) return(hostalias_nomatch);
307
308         config_lines = num_tokens(inetcfg, '\n');
309         for (i=0; i<config_lines; ++i) {
310                 extract_token(buf, inetcfg, i, '\n', sizeof buf);
311                 extract_token(host, buf, 0, '|', sizeof host);
312                 extract_token(type, buf, 1, '|', sizeof type);
313
314                 found = 0;
315
316                 /* Process these in a specific order, in case there are multiple matches.
317                  * We want directory to override masq, for example.
318                  */
319
320                 if ( (!strcasecmp(type, "masqdomain")) && (!strcasecmp(fqdn, host))) {
321                         found = hostalias_masq;
322                 }
323                 if ( (!strcasecmp(type, "localhost")) && (!strcasecmp(fqdn, host))) {
324                         found = hostalias_localhost;
325                 }
326                 if ( (!strcasecmp(type, "directory")) && (!strcasecmp(fqdn, host))) {
327                         found = hostalias_directory;
328                 }
329
330                 if (found) return(found);
331         }
332
333         return(hostalias_nomatch);
334 }
335
336
337
338
339
340
341
342 /*
343  * Return 0 if a given string fuzzy-matches a Citadel user account
344  *
345  * FIXME ... this needs to be updated to handle aliases.
346  */
347 int fuzzy_match(struct ctdluser *us, char *matchstring) {
348         int a;
349         long len;
350
351         if ( (!strncasecmp(matchstring, "cit", 3)) 
352            && (atol(&matchstring[3]) == us->usernum)) {
353                 return 0;
354         }
355
356         len = strlen(matchstring);
357         for (a=0; !IsEmptyStr(&us->fullname[a]); ++a) {
358                 if (!strncasecmp(&us->fullname[a],
359                    matchstring, len)) {
360                         return 0;
361                 }
362         }
363         return -1;
364 }
365
366
367 /*
368  * Unfold a multi-line field into a single line, removing multi-whitespaces
369  */
370 void unfold_rfc822_field(char **field, char **FieldEnd) 
371 {
372         int quote = 0;
373         char *pField = *field;
374         char *sField;
375         char *pFieldEnd = *FieldEnd;
376
377         while (isspace(*pField))
378                 pField++;
379         /* remove leading/trailing whitespace */
380         ;
381
382         while (isspace(*pFieldEnd))
383                 pFieldEnd --;
384
385         *FieldEnd = pFieldEnd;
386         /* convert non-space whitespace to spaces, and remove double blanks */
387         for (sField = *field = pField; 
388              sField < pFieldEnd; 
389              pField++, sField++)
390         {
391                 if ((*sField=='\r') || (*sField=='\n')) {
392                     sField++;
393                     if  (*sField == '\n')
394                         sField++;
395                     *pField = *sField;
396                 }
397                 else {
398                         if (*sField=='\"') quote = 1 - quote;
399                         if (!quote) {
400                                 if (isspace(*sField))
401                                 {
402                                         *pField = ' ';
403                                         pField++;
404                                         sField++;
405                                         
406                                         while ((sField < pFieldEnd) && 
407                                                isspace(*sField))
408                                                 sField++;
409                                         *pField = *sField;
410                                 }
411                                 else *pField = *sField;
412                         }
413                         else *pField = *sField;
414                 }
415         }
416         *pField = '\0';
417         *FieldEnd = pField - 1;
418 }
419
420
421
422 /*
423  * Split an RFC822-style address into userid, host, and full name
424  *
425  */
426 void process_rfc822_addr(const char *rfc822, char *user, char *node, char *name)
427 {
428         int a;
429
430         strcpy(user, "");
431         strcpy(node, config.c_fqdn);
432         strcpy(name, "");
433
434         if (rfc822 == NULL) return;
435
436         /* extract full name - first, it's From minus <userid> */
437         strcpy(name, rfc822);
438         stripout(name, '<', '>');
439
440         /* strip anything to the left of a bang */
441         while ((!IsEmptyStr(name)) && (haschar(name, '!') > 0))
442                 strcpy(name, &name[1]);
443
444         /* and anything to the right of a @ or % */
445         for (a = 0; a < strlen(name); ++a) {
446                 if (name[a] == '@')
447                         name[a] = 0;
448                 if (name[a] == '%')
449                         name[a] = 0;
450         }
451
452         /* but if there are parentheses, that changes the rules... */
453         if ((haschar(rfc822, '(') == 1) && (haschar(rfc822, ')') == 1)) {
454                 strcpy(name, rfc822);
455                 stripallbut(name, '(', ')');
456         }
457
458         /* but if there are a set of quotes, that supersedes everything */
459         if (haschar(rfc822, 34) == 2) {
460                 strcpy(name, rfc822);
461                 while ((!IsEmptyStr(name)) && (name[0] != 34)) {
462                         strcpy(&name[0], &name[1]);
463                 }
464                 strcpy(&name[0], &name[1]);
465                 for (a = 0; a < strlen(name); ++a)
466                         if (name[a] == 34)
467                                 name[a] = 0;
468         }
469         /* extract user id */
470         strcpy(user, rfc822);
471
472         /* first get rid of anything in parens */
473         stripout(user, '(', ')');
474
475         /* if there's a set of angle brackets, strip it down to that */
476         if ((haschar(user, '<') == 1) && (haschar(user, '>') == 1)) {
477                 stripallbut(user, '<', '>');
478         }
479
480         /* strip anything to the left of a bang */
481         while ((!IsEmptyStr(user)) && (haschar(user, '!') > 0))
482                 strcpy(user, &user[1]);
483
484         /* and anything to the right of a @ or % */
485         for (a = 0; a < strlen(user); ++a) {
486                 if (user[a] == '@')
487                         user[a] = 0;
488                 if (user[a] == '%')
489                         user[a] = 0;
490         }
491
492
493         /* extract node name */
494         strcpy(node, rfc822);
495
496         /* first get rid of anything in parens */
497         stripout(node, '(', ')');
498
499         /* if there's a set of angle brackets, strip it down to that */
500         if ((haschar(node, '<') == 1) && (haschar(node, '>') == 1)) {
501                 stripallbut(node, '<', '>');
502         }
503
504         /* If no node specified, tack ours on instead */
505         if (
506                 (haschar(node, '@')==0)
507                 && (haschar(node, '%')==0)
508                 && (haschar(node, '!')==0)
509         ) {
510                 strcpy(node, config.c_nodename);
511         }
512
513         else {
514
515                 /* strip anything to the left of a @ */
516                 while ((!IsEmptyStr(node)) && (haschar(node, '@') > 0))
517                         strcpy(node, &node[1]);
518         
519                 /* strip anything to the left of a % */
520                 while ((!IsEmptyStr(node)) && (haschar(node, '%') > 0))
521                         strcpy(node, &node[1]);
522         
523                 /* reduce multiple system bang paths to node!user */
524                 while ((!IsEmptyStr(node)) && (haschar(node, '!') > 1))
525                         strcpy(node, &node[1]);
526         
527                 /* now get rid of the user portion of a node!user string */
528                 for (a = 0; a < strlen(node); ++a)
529                         if (node[a] == '!')
530                                 node[a] = 0;
531         }
532
533         /* strip leading and trailing spaces in all strings */
534         striplt(user);
535         striplt(node);
536         striplt(name);
537
538         /* If we processed a string that had the address in angle brackets
539          * but no name outside the brackets, we now have an empty name.  In
540          * this case, use the user portion of the address as the name.
541          */
542         if ((IsEmptyStr(name)) && (!IsEmptyStr(user))) {
543                 strcpy(name, user);
544         }
545 }
546
547
548
549 /*
550  * convert_field() is a helper function for convert_internet_message().
551  * Given start/end positions for an rfc822 field, it converts it to a Citadel
552  * field if it wants to, and unfolds it if necessary.
553  *
554  * Returns 1 if the field was converted and inserted into the Citadel message
555  * structure, implying that the source field should be removed from the
556  * message text.
557  */
558 int convert_field(struct CtdlMessage *msg, const char *beg, const char *end) {
559         char *key, *value, *valueend;
560         long len;
561         const char *pos;
562         int i;
563         const char *colonpos = NULL;
564         int processed = 0;
565         char buf[SIZ];
566         char user[1024];
567         char node[1024];
568         char name[1024];
569         char addr[1024];
570         time_t parsed_date;
571         long valuelen;
572
573         for (pos = end; pos >= beg; pos--) {
574                 if (*pos == ':') colonpos = pos;
575         }
576
577         if (colonpos == NULL) return(0);        /* no colon? not a valid header line */
578
579         len = end - beg;
580         key = malloc(len + 2);
581         memcpy(key, beg, len + 1);
582         key[len] = '\0';
583         valueend = key + len;
584         * ( key + (colonpos - beg) ) = '\0';
585         value = &key[(colonpos - beg) + 1];
586 /*      printf("Header: [%s]\nValue: [%s]\n", key, value); */
587         unfold_rfc822_field(&value, &valueend);
588         valuelen = valueend - value + 1;
589 /*      printf("UnfoldedValue: [%s]\n", value); */
590
591         /*
592          * Here's the big rfc822-to-citadel loop.
593          */
594
595         /* Date/time is converted into a unix timestamp.  If the conversion
596          * fails, we replace it with the time the message arrived locally.
597          */
598         if (!strcasecmp(key, "Date")) {
599                 parsed_date = parsedate(value);
600                 if (parsed_date < 0L) parsed_date = time(NULL);
601                 snprintf(buf, sizeof buf, "%ld", (long)parsed_date );
602                 if (msg->cm_fields['T'] == NULL)
603                         msg->cm_fields['T'] = strdup(buf);
604                 processed = 1;
605         }
606
607         else if (!strcasecmp(key, "From")) {
608                 process_rfc822_addr(value, user, node, name);
609                 CtdlLogPrintf(CTDL_DEBUG, "Converted to <%s@%s> (%s)\n", user, node, name);
610                 snprintf(addr, sizeof addr, "%s@%s", user, node);
611                 if (msg->cm_fields['A'] == NULL)
612                         msg->cm_fields['A'] = strdup(name);
613                 processed = 1;
614                 if (msg->cm_fields['F'] == NULL)
615                         msg->cm_fields['F'] = strdup(addr);
616                 processed = 1;
617         }
618
619         else if (!strcasecmp(key, "Subject")) {
620                 if (msg->cm_fields['U'] == NULL)
621                         msg->cm_fields['U'] = strndup(value, valuelen);
622                 processed = 1;
623         }
624
625         else if (!strcasecmp(key, "List-ID")) {
626                 if (msg->cm_fields['L'] == NULL)
627                         msg->cm_fields['L'] = strndup(value, valuelen);
628                 processed = 1;
629         }
630
631         else if (!strcasecmp(key, "To")) {
632                 if (msg->cm_fields['R'] == NULL)
633                         msg->cm_fields['R'] = strndup(value, valuelen);
634                 processed = 1;
635         }
636
637         else if (!strcasecmp(key, "CC")) {
638                 if (msg->cm_fields['Y'] == NULL)
639                         msg->cm_fields['Y'] = strndup(value, valuelen);
640                 processed = 1;
641         }
642
643         else if (!strcasecmp(key, "Message-ID")) {
644                 if (msg->cm_fields['I'] != NULL) {
645                         CtdlLogPrintf(CTDL_WARNING, "duplicate message id\n");
646                 }
647
648                 if (msg->cm_fields['I'] == NULL) {
649                         msg->cm_fields['I'] = strndup(value, valuelen);
650
651                         /* Strip angle brackets */
652                         while (haschar(msg->cm_fields['I'], '<') > 0) {
653                                 strcpy(&msg->cm_fields['I'][0],
654                                         &msg->cm_fields['I'][1]);
655                         }
656                         for (i = 0; i<strlen(msg->cm_fields['I']); ++i)
657                                 if (msg->cm_fields['I'][i] == '>')
658                                         msg->cm_fields['I'][i] = 0;
659                 }
660
661                 processed = 1;
662         }
663
664         else if (!strcasecmp(key, "Return-Path")) {
665                 if (msg->cm_fields['P'] == NULL)
666                         msg->cm_fields['P'] = strndup(value, valuelen);
667                 processed = 1;
668         }
669
670         else if (!strcasecmp(key, "Envelope-To")) {
671                 if (msg->cm_fields['V'] == NULL)
672                         msg->cm_fields['V'] = strndup(value, valuelen);
673                 processed = 1;
674         }
675
676         else if (!strcasecmp(key, "References")) {
677                 if (msg->cm_fields['W'] != NULL) {
678                         free(msg->cm_fields['W']);
679                 }
680                 msg->cm_fields['W'] = strndup(value, valuelen);
681                 processed = 1;
682         }
683
684         else if (!strcasecmp(key, "In-reply-to")) {
685                 if (msg->cm_fields['W'] == NULL) {              /* References: supersedes In-reply-to: */
686                         msg->cm_fields['W'] = strndup(value, valuelen);
687                 }
688                 processed = 1;
689         }
690
691
692
693         /* Clean up and move on. */
694         free(key);      /* Don't free 'value', it's actually the same buffer */
695         return(processed);
696 }
697
698
699 /*
700  * Convert RFC822 references format (References) to Citadel references format (Weferences)
701  */
702 void convert_references_to_wefewences(char *str) {
703         int bracket_nesting = 0;
704         char *ptr = str;
705         char *moveptr = NULL;
706         char ch;
707
708         while(*ptr) {
709                 ch = *ptr;
710                 if (ch == '>') {
711                         --bracket_nesting;
712                         if (bracket_nesting < 0) bracket_nesting = 0;
713                 }
714                 if ((ch == '>') && (bracket_nesting == 0) && (*(ptr+1)) && (ptr>str) ) {
715                         *ptr = '|';
716                         ++ptr;
717                 }
718                 else if (bracket_nesting > 0) {
719                         ++ptr;
720                 }
721                 else {
722                         moveptr = ptr;
723                         while (*moveptr) {
724                                 *moveptr = *(moveptr+1);
725                                 ++moveptr;
726                         }
727                 }
728                 if (ch == '<') ++bracket_nesting;
729         }
730
731 }
732
733
734 /*
735  * Convert an RFC822 message (headers + body) to a CtdlMessage structure.
736  * NOTE: the supplied buffer becomes part of the CtdlMessage structure, and
737  * will be deallocated when CtdlFreeMessage() is called.  Therefore, the
738  * supplied buffer should be DEREFERENCED.  It should not be freed or used
739  * again.
740  */
741 struct CtdlMessage *convert_internet_message(char *rfc822) {
742         StrBuf *RFCBuf = NewStrBufPlain(rfc822, -1);
743         free (rfc822);
744         return convert_internet_message_buf(&RFCBuf);
745 }
746
747
748
749 struct CtdlMessage *convert_internet_message_buf(StrBuf **rfc822)
750 {
751         struct CtdlMessage *msg;
752         const char *pos, *beg, *end, *totalend;
753         int done, alldone = 0;
754         char buf[SIZ];
755         int converted;
756         StrBuf *OtherHeaders;
757
758         msg = malloc(sizeof(struct CtdlMessage));
759         if (msg == NULL) return msg;
760
761         memset(msg, 0, sizeof(struct CtdlMessage));
762         msg->cm_magic = CTDLMESSAGE_MAGIC;      /* self check */
763         msg->cm_anon_type = 0;                  /* never anonymous */
764         msg->cm_format_type = FMT_RFC822;       /* internet message */
765
766         pos = ChrPtr(*rfc822);
767         totalend = pos + StrLength(*rfc822);
768         done = 0;
769         OtherHeaders = NewStrBufPlain(NULL, StrLength(*rfc822));
770
771         while (!alldone) {
772
773                 /* Locate beginning and end of field, keeping in mind that
774                  * some fields might be multiline
775                  */
776                 end = beg = pos;
777
778                 while ((end < totalend) && 
779                        (end == beg) && 
780                        (done == 0) ) 
781                 {
782
783                         if ( (*pos=='\n') && ((*(pos+1))!=0x20) && ((*(pos+1))!=0x09) )
784                         {
785                                 end = pos;
786                         }
787
788                         /* done with headers? */
789                         if ((*pos=='\n') &&
790                             ( (*(pos+1)=='\n') ||
791                               (*(pos+1)=='\r')) ) 
792                         {
793                                 alldone = 1;
794                         }
795
796                         if (pos >= (totalend - 1) )
797                         {
798                                 end = pos;
799                                 done = 1;
800                         }
801
802                         ++pos;
803
804                 }
805
806                 /* At this point we have a field.  Are we interested in it? */
807                 converted = convert_field(msg, beg, end);
808
809                 /* Strip the field out of the RFC822 header if we used it */
810                 if (!converted) {
811                         StrBufAppendBufPlain(OtherHeaders, beg, end - beg, 0);
812                         StrBufAppendBufPlain(OtherHeaders, HKEY("\n"), 0);
813                 }
814
815                 /* If we've hit the end of the message, bail out */
816                 if (pos >= totalend)
817                         alldone = 1;
818         }
819         StrBufAppendBufPlain(OtherHeaders, HKEY("\n"), 0);
820         if (pos < totalend)
821                 StrBufAppendBufPlain(OtherHeaders, pos, totalend - pos, 0);
822         FreeStrBuf(rfc822);
823         msg->cm_fields['M'] = SmashStrBuf(&OtherHeaders);
824
825         /* Follow-up sanity checks... */
826
827         /* If there's no timestamp on this message, set it to now. */
828         if (msg->cm_fields['T'] == NULL) {
829                 snprintf(buf, sizeof buf, "%ld", (long)time(NULL));
830                 msg->cm_fields['T'] = strdup(buf);
831         }
832
833         /* If a W (references, or rather, Wefewences) field is present, we
834          * have to convert it from RFC822 format to Citadel format.
835          */
836         if (msg->cm_fields['W'] != NULL) {
837                 convert_references_to_wefewences(msg->cm_fields['W']);
838         }
839
840         return msg;
841 }
842
843
844
845 /*
846  * Look for a particular header field in an RFC822 message text.  If the
847  * requested field is found, it is unfolded (if necessary) and returned to
848  * the caller.  The field name is stripped out, leaving only its contents.
849  * The caller is responsible for freeing the returned buffer.  If the requested
850  * field is not present, or anything else goes wrong, it returns NULL.
851  */
852 char *rfc822_fetch_field(const char *rfc822, const char *fieldname) {
853         char *fieldbuf = NULL;
854         const char *end_of_headers;
855         const char *field_start;
856         const char *ptr;
857         char *cont;
858         char fieldhdr[SIZ];
859
860         /* Should never happen, but sometimes we get stupid */
861         if (rfc822 == NULL) return(NULL);
862         if (fieldname == NULL) return(NULL);
863
864         snprintf(fieldhdr, sizeof fieldhdr, "%s:", fieldname);
865
866         /* Locate the end of the headers, so we don't run past that point */
867         end_of_headers = cbmstrcasestr(rfc822, "\n\r\n");
868         if (end_of_headers == NULL) {
869                 end_of_headers = cbmstrcasestr(rfc822, "\n\n");
870         }
871         if (end_of_headers == NULL) return (NULL);
872
873         field_start = cbmstrcasestr(rfc822, fieldhdr);
874         if (field_start == NULL) return(NULL);
875         if (field_start > end_of_headers) return(NULL);
876
877         fieldbuf = malloc(SIZ);
878         strcpy(fieldbuf, "");
879
880         ptr = field_start;
881         ptr = cmemreadline(ptr, fieldbuf, SIZ-strlen(fieldbuf) );
882         while ( (isspace(ptr[0])) && (ptr < end_of_headers) ) {
883                 strcat(fieldbuf, " ");
884                 cont = &fieldbuf[strlen(fieldbuf)];
885                 ptr = cmemreadline(ptr, cont, SIZ-strlen(fieldbuf) );
886                 striplt(cont);
887         }
888
889         strcpy(fieldbuf, &fieldbuf[strlen(fieldhdr)]);
890         striplt(fieldbuf);
891
892         return(fieldbuf);
893 }
894
895
896
897 /*****************************************************************************
898  *                      DIRECTORY MANAGEMENT FUNCTIONS                       *
899  *****************************************************************************/
900
901 /*
902  * Generate the index key for an Internet e-mail address to be looked up
903  * in the database.
904  */
905 void directory_key(char *key, char *addr) {
906         int i;
907         int keylen = 0;
908
909         for (i=0; !IsEmptyStr(&addr[i]); ++i) {
910                 if (!isspace(addr[i])) {
911                         key[keylen++] = tolower(addr[i]);
912                 }
913         }
914         key[keylen++] = 0;
915
916         CtdlLogPrintf(CTDL_DEBUG, "Directory key is <%s>\n", key);
917 }
918
919
920
921 /* Return nonzero if the supplied address is in a domain we keep in
922  * the directory
923  */
924 int IsDirectory(char *addr, int allow_masq_domains) {
925         char domain[256];
926         int h;
927
928         extract_token(domain, addr, 1, '@', sizeof domain);
929         striplt(domain);
930
931         h = CtdlHostAlias(domain);
932
933         if ( (h == hostalias_masq) && allow_masq_domains)
934                 return(1);
935         
936         if ( (h == hostalias_localhost) || (h == hostalias_directory) ) {
937                 return(1);
938         }
939         else {
940                 return(0);
941         }
942 }
943
944
945 /*
946  * Initialize the directory database (erasing anything already there)
947  */
948 void CtdlDirectoryInit(void) {
949         cdb_trunc(CDB_DIRECTORY);
950 }
951
952
953 /*
954  * Add an Internet e-mail address to the directory for a user
955  */
956 void CtdlDirectoryAddUser(char *internet_addr, char *citadel_addr) {
957         char key[SIZ];
958
959         if (IsDirectory(internet_addr, 0) == 0) return;
960         CtdlLogPrintf(CTDL_DEBUG, "Create directory entry: %s --> %s\n", internet_addr, citadel_addr);
961         directory_key(key, internet_addr);
962         cdb_store(CDB_DIRECTORY, key, strlen(key), citadel_addr, strlen(citadel_addr)+1 );
963 }
964
965
966 /*
967  * Delete an Internet e-mail address from the directory.
968  *
969  * (NOTE: we don't actually use or need the citadel_addr variable; it's merely
970  * here because the callback API expects to be able to send it.)
971  */
972 void CtdlDirectoryDelUser(char *internet_addr, char *citadel_addr) {
973         char key[SIZ];
974
975         CtdlLogPrintf(CTDL_DEBUG, "Delete directory entry: %s --> %s\n", internet_addr, citadel_addr);
976         directory_key(key, internet_addr);
977         cdb_delete(CDB_DIRECTORY, key, strlen(key) );
978 }
979
980
981 /*
982  * Look up an Internet e-mail address in the directory.
983  * On success: returns 0, and Citadel address stored in 'target'
984  * On failure: returns nonzero
985  */
986 int CtdlDirectoryLookup(char *target, char *internet_addr, size_t targbuflen) {
987         struct cdbdata *cdbrec;
988         char key[SIZ];
989
990         /* Dump it in there unchanged, just for kicks */
991         safestrncpy(target, internet_addr, targbuflen);
992
993         /* Only do lookups for addresses with hostnames in them */
994         if (num_tokens(internet_addr, '@') != 2) return(-1);
995
996         /* Only do lookups for domains in the directory */
997         if (IsDirectory(internet_addr, 0) == 0) return(-1);
998
999         directory_key(key, internet_addr);
1000         cdbrec = cdb_fetch(CDB_DIRECTORY, key, strlen(key) );
1001         if (cdbrec != NULL) {
1002                 safestrncpy(target, cdbrec->ptr, targbuflen);
1003                 cdb_free(cdbrec);
1004                 return(0);
1005         }
1006
1007         return(-1);
1008 }
1009
1010
1011 /*
1012  * Harvest any email addresses that someone might want to have in their
1013  * "collected addresses" book.
1014  */
1015 char *harvest_collected_addresses(struct CtdlMessage *msg) {
1016         char *coll = NULL;
1017         char addr[256];
1018         char user[256], node[256], name[256];
1019         int is_harvestable;
1020         int i, j, h;
1021         int field = 0;
1022
1023         if (msg == NULL) return(NULL);
1024
1025         is_harvestable = 1;
1026         strcpy(addr, "");       
1027         if (msg->cm_fields['A'] != NULL) {
1028                 strcat(addr, msg->cm_fields['A']);
1029         }
1030         if (msg->cm_fields['F'] != NULL) {
1031                 strcat(addr, " <");
1032                 strcat(addr, msg->cm_fields['F']);
1033                 strcat(addr, ">");
1034                 if (IsDirectory(msg->cm_fields['F'], 0)) {
1035                         is_harvestable = 0;
1036                 }
1037         }
1038
1039         if (is_harvestable) {
1040                 coll = strdup(addr);
1041         }
1042         else {
1043                 coll = strdup("");
1044         }
1045
1046         if (coll == NULL) return(NULL);
1047
1048         /* Scan both the R (To) and Y (CC) fields */
1049         for (i = 0; i < 2; ++i) {
1050                 if (i == 0) field = 'R' ;
1051                 if (i == 1) field = 'Y' ;
1052
1053                 if (msg->cm_fields[field] != NULL) {
1054                         for (j=0; j<num_tokens(msg->cm_fields[field], ','); ++j) {
1055                                 extract_token(addr, msg->cm_fields[field], j, ',', sizeof addr);
1056                                 if (strstr(addr, "=?") != NULL)
1057                                         utf8ify_rfc822_string(addr);
1058                                 process_rfc822_addr(addr, user, node, name);
1059                                 h = CtdlHostAlias(node);
1060                                 if ( (h != hostalias_localhost) && (h != hostalias_directory) ) {
1061                                         coll = realloc(coll, strlen(coll) + strlen(addr) + 4);
1062                                         if (coll == NULL) return(NULL);
1063                                         if (!IsEmptyStr(coll)) {
1064                                                 strcat(coll, ",");
1065                                         }
1066                                         striplt(addr);
1067                                         strcat(coll, addr);
1068                                 }
1069                         }
1070                 }
1071         }
1072
1073         if (IsEmptyStr(coll)) {
1074                 free(coll);
1075                 return(NULL);
1076         }
1077         return(coll);
1078 }