a34530828c423528d04865b171f20919dfba587d
[citadel.git] / citadel / msgbase.c
1 /*
2  * Implements the message store.
3  *
4  * Copyright (c) 1987-2010 by the citadel.org team
5  *
6  * This program is free software; you can redistribute it and/or modify
7  * it under the terms of the GNU General Public License as published by
8  * the Free Software Foundation; either version 3 of the License, or
9  * (at your option) any later version.
10  *
11  * This program is distributed in the hope that it will be useful,
12  * but WITHOUT ANY WARRANTY; without even the implied warranty of
13  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
14  * GNU General Public License for more details.
15  *
16  * You should have received a copy of the GNU General Public License
17  * along with this program; if not, write to the Free Software
18  * Foundation, Inc., 59 Temple Place, Suite 330, Boston, MA  02111-1307  USA
19  */
20
21 #include "sysdep.h"
22 #include <stdlib.h>
23 #include <unistd.h>
24 #include <stdio.h>
25 #include <fcntl.h>
26
27 #if TIME_WITH_SYS_TIME
28 # include <sys/time.h>
29 # include <time.h>
30 #else
31 # if HAVE_SYS_TIME_H
32 #  include <sys/time.h>
33 # else
34 #  include <time.h>
35 # endif
36 #endif
37
38
39 #include <ctype.h>
40 #include <string.h>
41 #include <limits.h>
42 #include <errno.h>
43 #include <stdarg.h>
44 #include <sys/stat.h>
45 #include <sys/types.h>
46 #include <regex.h>
47 #include <libcitadel.h>
48 #include "citadel.h"
49 #include "server.h"
50 #include "serv_extensions.h"
51 #include "database.h"
52 #include "msgbase.h"
53 #include "support.h"
54 #include "sysdep_decls.h"
55 #include "citserver.h"
56 #include "room_ops.h"
57 #include "user_ops.h"
58 #include "file_ops.h"
59 #include "config.h"
60 #include "control.h"
61 #include "genstamp.h"
62 #include "internet_addressing.h"
63 #include "euidindex.h"
64 #include "journaling.h"
65 #include "citadel_dirs.h"
66 #include "clientsocket.h"
67 #include "serv_network.h"
68 #include "threads.h"
69
70 #include "ctdl_module.h"
71
72 long config_msgnum;
73 struct addresses_to_be_filed *atbf = NULL;
74
75 /* This temp file holds the queue of operations for AdjRefCount() */
76 static FILE *arcfp = NULL;
77
78 /* 
79  * This really belongs in serv_network.c, but I don't know how to export
80  * symbols between modules.
81  */
82 struct FilterList *filterlist = NULL;
83
84
85 /*
86  * These are the four-character field headers we use when outputting
87  * messages in Citadel format (as opposed to RFC822 format).
88  */
89 char *msgkeys[] = {
90         NULL, NULL, NULL, NULL, NULL, NULL, NULL, NULL, 
91         NULL, NULL, NULL, NULL, NULL, NULL, NULL, NULL, 
92         NULL, NULL, NULL, NULL, NULL, NULL, NULL, NULL, 
93         NULL, NULL, NULL, NULL, NULL, NULL, NULL, NULL, 
94         NULL, NULL, NULL, NULL, NULL, NULL, NULL, NULL, 
95         NULL, NULL, NULL, NULL, NULL, NULL, NULL, NULL, 
96         NULL, NULL, NULL, NULL, NULL, NULL, NULL, NULL, 
97         NULL, NULL, NULL, NULL, NULL, NULL, NULL, NULL, 
98         NULL, 
99         "from",
100         NULL, NULL, NULL,
101         "exti",
102         "rfca",
103         NULL, 
104         "hnod",
105         "msgn",
106         "jrnl",
107         NULL,
108         "list",
109         "text",
110         "node",
111         "room",
112         "path",
113         NULL,
114         "rcpt",
115         "spec",
116         "time",
117         "subj",
118         NULL,
119         "wefw",
120         NULL,
121         "cccc",
122         NULL
123 };
124
125 /*
126  * This function is self explanatory.
127  * (What can I say, I'm in a weird mood today...)
128  */
129 void remove_any_whitespace_to_the_left_or_right_of_at_symbol(char *name)
130 {
131         int i;
132
133         for (i = 0; i < strlen(name); ++i) {
134                 if (name[i] == '@') {
135                         while (isspace(name[i - 1]) && i > 0) {
136                                 strcpy(&name[i - 1], &name[i]);
137                                 --i;
138                         }
139                         while (isspace(name[i + 1])) {
140                                 strcpy(&name[i + 1], &name[i + 2]);
141                         }
142                 }
143         }
144 }
145
146
147 /*
148  * Aliasing for network mail.
149  * (Error messages have been commented out, because this is a server.)
150  */
151 int alias(char *name)
152 {                               /* process alias and routing info for mail */
153         FILE *fp;
154         int a, i;
155         char aaa[SIZ], bbb[SIZ];
156         char *ignetcfg = NULL;
157         char *ignetmap = NULL;
158         int at = 0;
159         char node[64];
160         char testnode[64];
161         char buf[SIZ];
162
163         char original_name[256];
164         safestrncpy(original_name, name, sizeof original_name);
165
166         striplt(name);
167         remove_any_whitespace_to_the_left_or_right_of_at_symbol(name);
168         stripallbut(name, '<', '>');
169
170         fp = fopen(file_mail_aliases, "r");
171         if (fp == NULL) {
172                 fp = fopen("/dev/null", "r");
173         }
174         if (fp == NULL) {
175                 return (MES_ERROR);
176         }
177         strcpy(aaa, "");
178         strcpy(bbb, "");
179         while (fgets(aaa, sizeof aaa, fp) != NULL) {
180                 while (isspace(name[0]))
181                         strcpy(name, &name[1]);
182                 aaa[strlen(aaa) - 1] = 0;
183                 strcpy(bbb, "");
184                 for (a = 0; a < strlen(aaa); ++a) {
185                         if (aaa[a] == ',') {
186                                 strcpy(bbb, &aaa[a + 1]);
187                                 aaa[a] = 0;
188                         }
189                 }
190                 if (!strcasecmp(name, aaa))
191                         strcpy(name, bbb);
192         }
193         fclose(fp);
194
195         /* Hit the Global Address Book */
196         if (CtdlDirectoryLookup(aaa, name, sizeof aaa) == 0) {
197                 strcpy(name, aaa);
198         }
199
200         if (strcasecmp(original_name, name)) {
201                 CtdlLogPrintf(CTDL_INFO, "%s is being forwarded to %s\n", original_name, name);
202         }
203
204         /* Change "user @ xxx" to "user" if xxx is an alias for this host */
205         for (a=0; a<strlen(name); ++a) {
206                 if (name[a] == '@') {
207                         if (CtdlHostAlias(&name[a+1]) == hostalias_localhost) {
208                                 name[a] = 0;
209                                 CtdlLogPrintf(CTDL_INFO, "Changed to <%s>\n", name);
210                         }
211                 }
212         }
213
214         /* determine local or remote type, see citadel.h */
215         at = haschar(name, '@');
216         if (at == 0) return(MES_LOCAL);         /* no @'s - local address */
217         if (at > 1) return(MES_ERROR);          /* >1 @'s - invalid address */
218         remove_any_whitespace_to_the_left_or_right_of_at_symbol(name);
219
220         /* figure out the delivery mode */
221         extract_token(node, name, 1, '@', sizeof node);
222
223         /* If there are one or more dots in the nodename, we assume that it
224          * is an FQDN and will attempt SMTP delivery to the Internet.
225          */
226         if (haschar(node, '.') > 0) {
227                 return(MES_INTERNET);
228         }
229
230         /* Otherwise we look in the IGnet maps for a valid Citadel node.
231          * Try directly-connected nodes first...
232          */
233         ignetcfg = CtdlGetSysConfig(IGNETCFG);
234         for (i=0; i<num_tokens(ignetcfg, '\n'); ++i) {
235                 extract_token(buf, ignetcfg, i, '\n', sizeof buf);
236                 extract_token(testnode, buf, 0, '|', sizeof testnode);
237                 if (!strcasecmp(node, testnode)) {
238                         free(ignetcfg);
239                         return(MES_IGNET);
240                 }
241         }
242         free(ignetcfg);
243
244         /*
245          * Then try nodes that are two or more hops away.
246          */
247         ignetmap = CtdlGetSysConfig(IGNETMAP);
248         for (i=0; i<num_tokens(ignetmap, '\n'); ++i) {
249                 extract_token(buf, ignetmap, i, '\n', sizeof buf);
250                 extract_token(testnode, buf, 0, '|', sizeof testnode);
251                 if (!strcasecmp(node, testnode)) {
252                         free(ignetmap);
253                         return(MES_IGNET);
254                 }
255         }
256         free(ignetmap);
257
258         /* If we get to this point it's an invalid node name */
259         return (MES_ERROR);
260 }
261
262
263 /*
264  * Back end for the MSGS command: output message number only.
265  */
266 void simple_listing(long msgnum, void *userdata)
267 {
268         cprintf("%ld\n", msgnum);
269 }
270
271
272
273 /*
274  * Back end for the MSGS command: output header summary.
275  */
276 void headers_listing(long msgnum, void *userdata)
277 {
278         struct CtdlMessage *msg;
279
280         msg = CtdlFetchMessage(msgnum, 0);
281         if (msg == NULL) {
282                 cprintf("%ld|0|||||\n", msgnum);
283                 return;
284         }
285
286         cprintf("%ld|%s|%s|%s|%s|%s|\n",
287                 msgnum,
288                 (msg->cm_fields['T'] ? msg->cm_fields['T'] : "0"),
289                 (msg->cm_fields['A'] ? msg->cm_fields['A'] : ""),
290                 (msg->cm_fields['N'] ? msg->cm_fields['N'] : ""),
291                 (msg->cm_fields['F'] ? msg->cm_fields['F'] : ""),
292                 (msg->cm_fields['U'] ? msg->cm_fields['U'] : "")
293         );
294         CtdlFreeMessage(msg);
295 }
296
297 /*
298  * Back end for the MSGS command: output EUID header.
299  */
300 void headers_euid(long msgnum, void *userdata)
301 {
302         struct CtdlMessage *msg;
303
304         msg = CtdlFetchMessage(msgnum, 0);
305         if (msg == NULL) {
306                 cprintf("%ld||\n", msgnum);
307                 return;
308         }
309
310         cprintf("%ld|%s|%s\n", 
311                 msgnum, 
312                 (msg->cm_fields['E'] ? msg->cm_fields['E'] : ""),
313                 (msg->cm_fields['T'] ? msg->cm_fields['T'] : "0"));
314         CtdlFreeMessage(msg);
315 }
316
317
318
319
320
321 /* Determine if a given message matches the fields in a message template.
322  * Return 0 for a successful match.
323  */
324 int CtdlMsgCmp(struct CtdlMessage *msg, struct CtdlMessage *template) {
325         int i;
326
327         /* If there aren't any fields in the template, all messages will
328          * match.
329          */
330         if (template == NULL) return(0);
331
332         /* Null messages are bogus. */
333         if (msg == NULL) return(1);
334
335         for (i='A'; i<='Z'; ++i) {
336                 if (template->cm_fields[i] != NULL) {
337                         if (msg->cm_fields[i] == NULL) {
338                                 /* Considered equal if temmplate is empty string */
339                                 if (IsEmptyStr(template->cm_fields[i])) continue;
340                                 return 1;
341                         }
342                         if (strcasecmp(msg->cm_fields[i],
343                                 template->cm_fields[i])) return 1;
344                 }
345         }
346
347         /* All compares succeeded: we have a match! */
348         return 0;
349 }
350
351
352
353 /*
354  * Retrieve the "seen" message list for the current room.
355  */
356 void CtdlGetSeen(char *buf, int which_set) {
357         visit vbuf;
358
359         /* Learn about the user and room in question */
360         CtdlGetRelationship(&vbuf, &CC->user, &CC->room);
361
362         if (which_set == ctdlsetseen_seen)
363                 safestrncpy(buf, vbuf.v_seen, SIZ);
364         if (which_set == ctdlsetseen_answered)
365                 safestrncpy(buf, vbuf.v_answered, SIZ);
366 }
367
368
369
370 /*
371  * Manipulate the "seen msgs" string (or other message set strings)
372  */
373 void CtdlSetSeen(long *target_msgnums, int num_target_msgnums,
374                 int target_setting, int which_set,
375                 struct ctdluser *which_user, struct ctdlroom *which_room) {
376         struct cdbdata *cdbfr;
377         int i, k;
378         int is_seen = 0;
379         int was_seen = 0;
380         long lo = (-1L);
381         long hi = (-1L);
382         visit vbuf;
383         long *msglist;
384         int num_msgs = 0;
385         StrBuf *vset;
386         StrBuf *setstr;
387         StrBuf *lostr;
388         StrBuf *histr;
389         const char *pvset;
390         char *is_set;   /* actually an array of booleans */
391
392         /* Don't bother doing *anything* if we were passed a list of zero messages */
393         if (num_target_msgnums < 1) {
394                 return;
395         }
396
397         /* If no room was specified, we go with the current room. */
398         if (!which_room) {
399                 which_room = &CC->room;
400         }
401
402         /* If no user was specified, we go with the current user. */
403         if (!which_user) {
404                 which_user = &CC->user;
405         }
406
407         CtdlLogPrintf(CTDL_DEBUG, "CtdlSetSeen(%d msgs starting with %ld, %s, %d) in <%s>\n",
408                 num_target_msgnums, target_msgnums[0],
409                 (target_setting ? "SET" : "CLEAR"),
410                 which_set,
411                 which_room->QRname);
412
413         /* Learn about the user and room in question */
414         CtdlGetRelationship(&vbuf, which_user, which_room);
415
416         /* Load the message list */
417         cdbfr = cdb_fetch(CDB_MSGLISTS, &which_room->QRnumber, sizeof(long));
418         if (cdbfr != NULL) {
419                 msglist = (long *) cdbfr->ptr;
420                 cdbfr->ptr = NULL;      /* CtdlSetSeen() now owns this memory */
421                 num_msgs = cdbfr->len / sizeof(long);
422                 cdb_free(cdbfr);
423         } else {
424                 return; /* No messages at all?  No further action. */
425         }
426
427         is_set = malloc(num_msgs * sizeof(char));
428         memset(is_set, 0, (num_msgs * sizeof(char)) );
429
430         /* Decide which message set we're manipulating */
431         switch(which_set) {
432         case ctdlsetseen_seen:
433                 vset = NewStrBufPlain(vbuf.v_seen, -1);
434                 break;
435         case ctdlsetseen_answered:
436                 vset = NewStrBufPlain(vbuf.v_answered, -1);
437                 break;
438         default:
439                 vset = NewStrBuf();
440         }
441
442
443 #if 0   /* This is a special diagnostic section.  Do not allow it to run during normal operation. */
444         CtdlLogPrintf(CTDL_DEBUG, "There are %d messages in the room.\n", num_msgs);
445         for (i=0; i<num_msgs; ++i) {
446                 if ((i > 0) && (msglist[i] <= msglist[i-1])) abort();
447         }
448         CtdlLogPrintf(CTDL_DEBUG, "We are twiddling %d of them.\n", num_target_msgnums);
449         for (k=0; k<num_target_msgnums; ++k) {
450                 if ((k > 0) && (target_msgnums[k] <= target_msgnums[k-1])) abort();
451         }
452 #endif
453
454         CtdlLogPrintf(CTDL_DEBUG, "before update: %s\n", ChrPtr(vset));
455
456         /* Translate the existing sequence set into an array of booleans */
457         setstr = NewStrBuf();
458         lostr = NewStrBuf();
459         histr = NewStrBuf();
460         pvset = NULL;
461         while (StrBufExtract_NextToken(setstr, vset, &pvset, ',') >= 0) {
462
463                 StrBufExtract_token(lostr, setstr, 0, ':');
464                 if (StrBufNum_tokens(setstr, ':') >= 2) {
465                         StrBufExtract_token(histr, setstr, 1, ':');
466                 }
467                 else {
468                         FlushStrBuf(histr);
469                         StrBufAppendBuf(histr, lostr, 0);
470                 }
471                 lo = StrTol(lostr);
472                 if (!strcmp(ChrPtr(histr), "*")) {
473                         hi = LONG_MAX;
474                 }
475                 else {
476                         hi = StrTol(histr);
477                 }
478
479                 for (i = 0; i < num_msgs; ++i) {
480                         if ((msglist[i] >= lo) && (msglist[i] <= hi)) {
481                                 is_set[i] = 1;
482                         }
483                 }
484         }
485         FreeStrBuf(&setstr);
486         FreeStrBuf(&lostr);
487         FreeStrBuf(&histr);
488
489
490         /* Now translate the array of booleans back into a sequence set */
491         FlushStrBuf(vset);
492         was_seen = 0;
493         lo = (-1);
494         hi = (-1);
495
496         for (i=0; i<num_msgs; ++i) {
497                 is_seen = is_set[i];
498
499                 /* Apply changes */
500                 for (k=0; k<num_target_msgnums; ++k) {
501                         if (msglist[i] == target_msgnums[k]) {
502                                 is_seen = target_setting;
503                         }
504                 }
505
506                 if ((was_seen == 0) && (is_seen == 1)) {
507                         lo = msglist[i];
508                 }
509                 else if ((was_seen == 1) && (is_seen == 0)) {
510                         hi = msglist[i-1];
511
512                         if (StrLength(vset) > 0) {
513                                 StrBufAppendBufPlain(vset, HKEY(","), 0);
514                         }
515                         if (lo == hi) {
516                                 StrBufAppendPrintf(vset, "%ld", hi);
517                         }
518                         else {
519                                 StrBufAppendPrintf(vset, "%ld:%ld", lo, hi);
520                         }
521                 }
522
523                 if ((is_seen) && (i == num_msgs - 1)) {
524                         if (StrLength(vset) > 0) {
525                                 StrBufAppendBufPlain(vset, HKEY(","), 0);
526                         }
527                         if ((i==0) || (was_seen == 0)) {
528                                 StrBufAppendPrintf(vset, "%ld", msglist[i]);
529                         }
530                         else {
531                                 StrBufAppendPrintf(vset, "%ld:%ld", lo, msglist[i]);
532                         }
533                 }
534
535                 was_seen = is_seen;
536         }
537
538         /*
539          * We will have to stuff this string back into a 4096 byte buffer, so if it's
540          * larger than that now, truncate it by removing tokens from the beginning.
541          * The limit of 100 iterations is there to prevent an infinite loop in case
542          * something unexpected happens.
543          */
544         int number_of_truncations = 0;
545         while ( (StrLength(vset) > SIZ) && (number_of_truncations < 100) ) {
546                 StrBufRemove_token(vset, 0, ',');
547                 ++number_of_truncations;
548         }
549
550         /*
551          * If we're truncating the sequence set of messages marked with the 'seen' flag,
552          * we want the earliest messages (the truncated ones) to be marked, not unmarked.
553          * Otherwise messages at the beginning will suddenly appear to be 'unseen'.
554          */
555         if ( (which_set == ctdlsetseen_seen) && (number_of_truncations > 0) ) {
556                 StrBuf *first_tok;
557                 first_tok = NewStrBuf();
558                 StrBufExtract_token(first_tok, vset, 0, ',');
559                 StrBufRemove_token(vset, 0, ',');
560
561                 if (StrBufNum_tokens(first_tok, ':') > 1) {
562                         StrBufRemove_token(first_tok, 0, ':');
563                 }
564                 
565                 StrBuf *new_set;
566                 new_set = NewStrBuf();
567                 StrBufAppendBufPlain(new_set, HKEY("1:"), 0);
568                 StrBufAppendBuf(new_set, first_tok, 0);
569                 StrBufAppendBufPlain(new_set, HKEY(":"), 0);
570                 StrBufAppendBuf(new_set, vset, 0);
571
572                 FreeStrBuf(&vset);
573                 FreeStrBuf(&first_tok);
574                 vset = new_set;
575         }
576
577         CtdlLogPrintf(CTDL_DEBUG, " after update: %s\n", ChrPtr(vset));
578
579         /* Decide which message set we're manipulating */
580         switch (which_set) {
581                 case ctdlsetseen_seen:
582                         safestrncpy(vbuf.v_seen, ChrPtr(vset), sizeof vbuf.v_seen);
583                         break;
584                 case ctdlsetseen_answered:
585                         safestrncpy(vbuf.v_answered, ChrPtr(vset), sizeof vbuf.v_answered);
586                         break;
587         }
588
589         free(is_set);
590         free(msglist);
591         CtdlSetRelationship(&vbuf, which_user, which_room);
592         FreeStrBuf(&vset);
593 }
594
595
596 /*
597  * API function to perform an operation for each qualifying message in the
598  * current room.  (Returns the number of messages processed.)
599  */
600 int CtdlForEachMessage(int mode, long ref, char *search_string,
601                         char *content_type,
602                         struct CtdlMessage *compare,
603                         ForEachMsgCallback CallBack,
604                         void *userdata)
605 {
606
607         int a, i, j;
608         visit vbuf;
609         struct cdbdata *cdbfr;
610         long *msglist = NULL;
611         int num_msgs = 0;
612         int num_processed = 0;
613         long thismsg;
614         struct MetaData smi;
615         struct CtdlMessage *msg = NULL;
616         int is_seen = 0;
617         long lastold = 0L;
618         int printed_lastold = 0;
619         int num_search_msgs = 0;
620         long *search_msgs = NULL;
621         regex_t re;
622         int need_to_free_re = 0;
623         regmatch_t pm;
624
625         if ((content_type) && (!IsEmptyStr(content_type))) {
626                 regcomp(&re, content_type, 0);
627                 need_to_free_re = 1;
628         }
629
630         /* Learn about the user and room in question */
631         CtdlGetUser(&CC->user, CC->curr_user);
632         CtdlGetRelationship(&vbuf, &CC->user, &CC->room);
633
634         /* Load the message list */
635         cdbfr = cdb_fetch(CDB_MSGLISTS, &CC->room.QRnumber, sizeof(long));
636         if (cdbfr != NULL) {
637                 msglist = (long *) cdbfr->ptr;
638                 num_msgs = cdbfr->len / sizeof(long);
639         } else {
640                 if (need_to_free_re) regfree(&re);
641                 return 0;       /* No messages at all?  No further action. */
642         }
643
644
645         /*
646          * Now begin the traversal.
647          */
648         if (num_msgs > 0) for (a = 0; a < num_msgs; ++a) {
649
650                 /* If the caller is looking for a specific MIME type, filter
651                  * out all messages which are not of the type requested.
652                  */
653                 if ((content_type != NULL) && (!IsEmptyStr(content_type))) {
654
655                         /* This call to GetMetaData() sits inside this loop
656                          * so that we only do the extra database read per msg
657                          * if we need to.  Doing the extra read all the time
658                          * really kills the server.  If we ever need to use
659                          * metadata for another search criterion, we need to
660                          * move the read somewhere else -- but still be smart
661                          * enough to only do the read if the caller has
662                          * specified something that will need it.
663                          */
664                         GetMetaData(&smi, msglist[a]);
665
666                         /* if (strcasecmp(smi.meta_content_type, content_type)) { old non-regex way */
667                         if (regexec(&re, smi.meta_content_type, 1, &pm, 0) != 0) {
668                                 msglist[a] = 0L;
669                         }
670                 }
671         }
672
673         num_msgs = sort_msglist(msglist, num_msgs);
674
675         /* If a template was supplied, filter out the messages which
676          * don't match.  (This could induce some delays!)
677          */
678         if (num_msgs > 0) {
679                 if (compare != NULL) {
680                         for (a = 0; a < num_msgs; ++a) {
681                                 msg = CtdlFetchMessage(msglist[a], 1);
682                                 if (msg != NULL) {
683                                         if (CtdlMsgCmp(msg, compare)) {
684                                                 msglist[a] = 0L;
685                                         }
686                                         CtdlFreeMessage(msg);
687                                 }
688                         }
689                 }
690         }
691
692         /* If a search string was specified, get a message list from
693          * the full text index and remove messages which aren't on both
694          * lists.
695          *
696          * How this works:
697          * Since the lists are sorted and strictly ascending, and the
698          * output list is guaranteed to be shorter than or equal to the
699          * input list, we overwrite the bottom of the input list.  This
700          * eliminates the need to memmove big chunks of the list over and
701          * over again.
702          */
703         if ( (num_msgs > 0) && (mode == MSGS_SEARCH) && (search_string) ) {
704
705                 /* Call search module via hook mechanism.
706                  * NULL means use any search function available.
707                  * otherwise replace with a char * to name of search routine
708                  */
709                 CtdlModuleDoSearch(&num_search_msgs, &search_msgs, search_string, "fulltext");
710
711                 if (num_search_msgs > 0) {
712         
713                         int orig_num_msgs;
714
715                         orig_num_msgs = num_msgs;
716                         num_msgs = 0;
717                         for (i=0; i<orig_num_msgs; ++i) {
718                                 for (j=0; j<num_search_msgs; ++j) {
719                                         if (msglist[i] == search_msgs[j]) {
720                                                 msglist[num_msgs++] = msglist[i];
721                                         }
722                                 }
723                         }
724                 }
725                 else {
726                         num_msgs = 0;   /* No messages qualify */
727                 }
728                 if (search_msgs != NULL) free(search_msgs);
729
730                 /* Now that we've purged messages which don't contain the search
731                  * string, treat a MSGS_SEARCH just like a MSGS_ALL from this
732                  * point on.
733                  */
734                 mode = MSGS_ALL;
735         }
736
737         /*
738          * Now iterate through the message list, according to the
739          * criteria supplied by the caller.
740          */
741         if (num_msgs > 0)
742                 for (a = 0; a < num_msgs; ++a) {
743                         thismsg = msglist[a];
744                         if (mode == MSGS_ALL) {
745                                 is_seen = 0;
746                         }
747                         else {
748                                 is_seen = is_msg_in_sequence_set(
749                                                         vbuf.v_seen, thismsg);
750                                 if (is_seen) lastold = thismsg;
751                         }
752                         if ((thismsg > 0L)
753                             && (
754
755                                        (mode == MSGS_ALL)
756                                        || ((mode == MSGS_OLD) && (is_seen))
757                                        || ((mode == MSGS_NEW) && (!is_seen))
758                                        || ((mode == MSGS_LAST) && (a >= (num_msgs - ref)))
759                                    || ((mode == MSGS_FIRST) && (a < ref))
760                                 || ((mode == MSGS_GT) && (thismsg > ref))
761                                 || ((mode == MSGS_LT) && (thismsg < ref))
762                                 || ((mode == MSGS_EQ) && (thismsg == ref))
763                             )
764                             ) {
765                                 if ((mode == MSGS_NEW) && (CC->user.flags & US_LASTOLD) && (lastold > 0L) && (printed_lastold == 0) && (!is_seen)) {
766                                         if (CallBack)
767                                                 CallBack(lastold, userdata);
768                                         printed_lastold = 1;
769                                         ++num_processed;
770                                 }
771                                 if (CallBack) CallBack(thismsg, userdata);
772                                 ++num_processed;
773                         }
774                 }
775         cdb_free(cdbfr);        /* Clean up */
776         if (need_to_free_re) regfree(&re);
777         return num_processed;
778 }
779
780
781
782 /*
783  * cmd_msgs()  -  get list of message #'s in this room
784  *              implements the MSGS server command using CtdlForEachMessage()
785  */
786 void cmd_msgs(char *cmdbuf)
787 {
788         int mode = 0;
789         char which[16];
790         char buf[256];
791         char tfield[256];
792         char tvalue[256];
793         int cm_ref = 0;
794         int i;
795         int with_template = 0;
796         struct CtdlMessage *template = NULL;
797         char search_string[1024];
798         ForEachMsgCallback CallBack;
799
800         if (CtdlAccessCheck(ac_logged_in_or_guest)) return;
801
802         extract_token(which, cmdbuf, 0, '|', sizeof which);
803         cm_ref = extract_int(cmdbuf, 1);
804         extract_token(search_string, cmdbuf, 1, '|', sizeof search_string);
805         with_template = extract_int(cmdbuf, 2);
806         switch (extract_int(cmdbuf, 3))
807         {
808         default:
809         case MSG_HDRS_BRIEF:
810                 CallBack = simple_listing;
811                 break;
812         case MSG_HDRS_ALL:
813                 CallBack = headers_listing;
814                 break;
815         case MSG_HDRS_EUID:
816                 CallBack = headers_euid;
817                 break;
818         }
819
820         strcat(which, "   ");
821         if (!strncasecmp(which, "OLD", 3))
822                 mode = MSGS_OLD;
823         else if (!strncasecmp(which, "NEW", 3))
824                 mode = MSGS_NEW;
825         else if (!strncasecmp(which, "FIRST", 5))
826                 mode = MSGS_FIRST;
827         else if (!strncasecmp(which, "LAST", 4))
828                 mode = MSGS_LAST;
829         else if (!strncasecmp(which, "GT", 2))
830                 mode = MSGS_GT;
831         else if (!strncasecmp(which, "LT", 2))
832                 mode = MSGS_LT;
833         else if (!strncasecmp(which, "SEARCH", 6))
834                 mode = MSGS_SEARCH;
835         else
836                 mode = MSGS_ALL;
837
838         if ( (mode == MSGS_SEARCH) && (!config.c_enable_fulltext) ) {
839                 cprintf("%d Full text index is not enabled on this server.\n",
840                         ERROR + CMD_NOT_SUPPORTED);
841                 return;
842         }
843
844         if (with_template) {
845                 unbuffer_output();
846                 cprintf("%d Send template then receive message list\n",
847                         START_CHAT_MODE);
848                 template = (struct CtdlMessage *)
849                         malloc(sizeof(struct CtdlMessage));
850                 memset(template, 0, sizeof(struct CtdlMessage));
851                 template->cm_magic = CTDLMESSAGE_MAGIC;
852                 template->cm_anon_type = MES_NORMAL;
853
854                 while(client_getln(buf, sizeof buf) >= 0 && strcmp(buf,"000")) {
855                         extract_token(tfield, buf, 0, '|', sizeof tfield);
856                         extract_token(tvalue, buf, 1, '|', sizeof tvalue);
857                         for (i='A'; i<='Z'; ++i) if (msgkeys[i]!=NULL) {
858                                 if (!strcasecmp(tfield, msgkeys[i])) {
859                                         template->cm_fields[i] =
860                                                 strdup(tvalue);
861                                 }
862                         }
863                 }
864                 buffer_output();
865         }
866         else {
867                 cprintf("%d  \n", LISTING_FOLLOWS);
868         }
869
870         CtdlForEachMessage(mode,
871                            ( (mode == MSGS_SEARCH) ? 0 : cm_ref ),
872                            ( (mode == MSGS_SEARCH) ? search_string : NULL ),
873                            NULL,
874                            template,
875                            CallBack,
876                            NULL);
877         if (template != NULL) CtdlFreeMessage(template);
878         cprintf("000\n");
879 }
880
881
882
883
884 /* 
885  * help_subst()  -  support routine for help file viewer
886  */
887 void help_subst(char *strbuf, char *source, char *dest)
888 {
889         char workbuf[SIZ];
890         int p;
891
892         while (p = pattern2(strbuf, source), (p >= 0)) {
893                 strcpy(workbuf, &strbuf[p + strlen(source)]);
894                 strcpy(&strbuf[p], dest);
895                 strcat(strbuf, workbuf);
896         }
897 }
898
899
900 void do_help_subst(char *buffer)
901 {
902         char buf2[16];
903
904         help_subst(buffer, "^nodename", config.c_nodename);
905         help_subst(buffer, "^humannode", config.c_humannode);
906         help_subst(buffer, "^fqdn", config.c_fqdn);
907         help_subst(buffer, "^username", CC->user.fullname);
908         snprintf(buf2, sizeof buf2, "%ld", CC->user.usernum);
909         help_subst(buffer, "^usernum", buf2);
910         help_subst(buffer, "^sysadm", config.c_sysadm);
911         help_subst(buffer, "^variantname", CITADEL);
912         snprintf(buf2, sizeof buf2, "%d", config.c_maxsessions);
913         help_subst(buffer, "^maxsessions", buf2);
914         help_subst(buffer, "^bbsdir", ctdl_message_dir);
915 }
916
917
918
919 /*
920  * memfmout()  -  Citadel text formatter and paginator.
921  *           Although the original purpose of this routine was to format
922  *           text to the reader's screen width, all we're really using it
923  *           for here is to format text out to 80 columns before sending it
924  *           to the client.  The client software may reformat it again.
925  */
926 void memfmout(
927         char *mptr,             /* where are we going to get our text from? */
928         const char *nl          /* string to terminate lines with */
929 ) {
930         int column = 0;
931         unsigned char ch = 0;
932         char outbuf[1024];
933         int len = 0;
934         int nllen = 0;
935
936         if (!mptr) return;
937         nllen = strlen(nl);
938         while (ch=*(mptr++), ch != 0) {
939
940                 if (ch == '\n') {
941                         client_write(outbuf, len);
942                         len = 0;
943                         client_write(nl, nllen);
944                         column = 0;
945                 }
946                 else if (ch == '\r') {
947                         /* Ignore carriage returns.  Newlines are always LF or CRLF but never CR. */
948                 }
949                 else if (isspace(ch)) {
950                         if (column > 72) {              /* Beyond 72 columns, break on the next space */
951                                 client_write(outbuf, len);
952                                 len = 0;
953                                 client_write(nl, nllen);
954                                 column = 0;
955                         }
956                         else {
957                                 outbuf[len++] = ch;
958                                 ++column;
959                         }
960                 }
961                 else {
962                         outbuf[len++] = ch;
963                         ++column;
964                         if (column > 1000) {            /* Beyond 1000 columns, break anywhere */
965                                 client_write(outbuf, len);
966                                 len = 0;
967                                 client_write(nl, nllen);
968                                 column = 0;
969                         }
970                 }
971         }
972         if (len) {
973                 client_write(outbuf, len);
974                 len = 0;
975                 client_write(nl, nllen);
976                 column = 0;
977         }
978 }
979
980
981
982 /*
983  * Callback function for mime parser that simply lists the part
984  */
985 void list_this_part(char *name, char *filename, char *partnum, char *disp,
986                     void *content, char *cbtype, char *cbcharset, size_t length, char *encoding,
987                     char *cbid, void *cbuserdata)
988 {
989         struct ma_info *ma;
990         
991         ma = (struct ma_info *)cbuserdata;
992         if (ma->is_ma == 0) {
993                 cprintf("part=%s|%s|%s|%s|%s|%ld|%s|%s\n",
994                         name, 
995                         filename, 
996                         partnum, 
997                         disp, 
998                         cbtype, 
999                         (long)length, 
1000                         cbid, 
1001                         cbcharset);
1002         }
1003 }
1004
1005 /* 
1006  * Callback function for multipart prefix
1007  */
1008 void list_this_pref(char *name, char *filename, char *partnum, char *disp,
1009                     void *content, char *cbtype, char *cbcharset, size_t length, char *encoding,
1010                     char *cbid, void *cbuserdata)
1011 {
1012         struct ma_info *ma;
1013         
1014         ma = (struct ma_info *)cbuserdata;
1015         if (!strcasecmp(cbtype, "multipart/alternative")) {
1016                 ++ma->is_ma;
1017         }
1018
1019         if (ma->is_ma == 0) {
1020                 cprintf("pref=%s|%s\n", partnum, cbtype);
1021         }
1022 }
1023
1024 /* 
1025  * Callback function for multipart sufffix
1026  */
1027 void list_this_suff(char *name, char *filename, char *partnum, char *disp,
1028                     void *content, char *cbtype, char *cbcharset, size_t length, char *encoding,
1029                     char *cbid, void *cbuserdata)
1030 {
1031         struct ma_info *ma;
1032         
1033         ma = (struct ma_info *)cbuserdata;
1034         if (ma->is_ma == 0) {
1035                 cprintf("suff=%s|%s\n", partnum, cbtype);
1036         }
1037         if (!strcasecmp(cbtype, "multipart/alternative")) {
1038                 --ma->is_ma;
1039         }
1040 }
1041
1042
1043 /*
1044  * Callback function for mime parser that opens a section for downloading
1045  */
1046 void mime_download(char *name, char *filename, char *partnum, char *disp,
1047                    void *content, char *cbtype, char *cbcharset, size_t length,
1048                    char *encoding, char *cbid, void *cbuserdata)
1049 {
1050         int rv = 0;
1051
1052         /* Silently go away if there's already a download open. */
1053         if (CC->download_fp != NULL)
1054                 return;
1055
1056         if (
1057                 (!IsEmptyStr(partnum) && (!strcasecmp(CC->download_desired_section, partnum)))
1058         ||      (!IsEmptyStr(cbid) && (!strcasecmp(CC->download_desired_section, cbid)))
1059         ) {
1060                 CC->download_fp = tmpfile();
1061                 if (CC->download_fp == NULL)
1062                         return;
1063         
1064                 rv = fwrite(content, length, 1, CC->download_fp);
1065                 fflush(CC->download_fp);
1066                 rewind(CC->download_fp);
1067         
1068                 OpenCmdResult(filename, cbtype);
1069         }
1070 }
1071
1072
1073
1074 /*
1075  * Callback function for mime parser that outputs a section all at once.
1076  * We can specify the desired section by part number *or* content-id.
1077  */
1078 void mime_spew_section(char *name, char *filename, char *partnum, char *disp,
1079                    void *content, char *cbtype, char *cbcharset, size_t length,
1080                    char *encoding, char *cbid, void *cbuserdata)
1081 {
1082         int *found_it = (int *)cbuserdata;
1083
1084         if (
1085                 (!IsEmptyStr(partnum) && (!strcasecmp(CC->download_desired_section, partnum)))
1086         ||      (!IsEmptyStr(cbid) && (!strcasecmp(CC->download_desired_section, cbid)))
1087         ) {
1088                 *found_it = 1;
1089                 cprintf("%d %d|-1|%s|%s|%s\n",
1090                         BINARY_FOLLOWS,
1091                         (int)length,
1092                         filename,
1093                         cbtype,
1094                         cbcharset
1095                 );
1096                 client_write(content, length);
1097         }
1098 }
1099
1100 #ifdef MESSAGE_IN_ROOM
1101 /*
1102  * Check if a message is in the current room.
1103  * This is used by CtdlFetchMessage to prevent random picking
1104  * of messages from users private rooms
1105  *
1106  * The message list should probably be cached against the CC->room
1107  */
1108 int CtdlMessageInRoom(long msgnum)
1109 {
1110         visit vbuf;
1111         struct cdbdata *cdbfr;
1112
1113         /* Learn about the user and room in question */
1114         CtdlGetUser(&CC->user, CC->curr_user);
1115         CtdlGetRelationship(&vbuf, &CC->user, &CC->room);
1116
1117         /* Load the message list */
1118         cdbfr = cdb_fetch(CDB_MSGLISTS, &CC->room.QRnumber, sizeof(long));
1119         if (cdbfr != NULL) {
1120                 long *msglist = NULL;
1121                 int num_msgs = 0;
1122                 int i;
1123                 int r = 0;
1124                 
1125                 msglist = (long *) cdbfr->ptr;
1126                 num_msgs = cdbfr->len / sizeof(long);
1127
1128                 /* search for message msgnum */
1129                 for (i=0; i<num_msgs; i++) {
1130                         if (msglist[i] == msgnum) {
1131                                 r = 1;
1132                                 break;
1133                         }       
1134                 }
1135
1136                 cdb_free(cdbfr);
1137                 return r;
1138         } else {
1139                 return 0;
1140         }
1141 }
1142 #endif
1143
1144 /*
1145  * Load a message from disk into memory.
1146  * This is used by CtdlOutputMsg() and other fetch functions.
1147  *
1148  * NOTE: Caller is responsible for freeing the returned CtdlMessage struct
1149  *       using the CtdlMessageFree() function.
1150  */
1151 struct CtdlMessage *CtdlFetchMessage(long msgnum, int with_body)
1152 {
1153         struct cdbdata *dmsgtext;
1154         struct CtdlMessage *ret = NULL;
1155         char *mptr;
1156         char *upper_bound;
1157         cit_uint8_t ch;
1158         cit_uint8_t field_header;
1159
1160         CtdlLogPrintf(CTDL_DEBUG, "CtdlFetchMessage(%ld, %d)\n", msgnum, with_body);
1161
1162 #ifdef MESSAGE_IN_ROOM
1163         if (!CtdlMessageInRoom(msgnum)) {
1164                 CtdlLogPrintf(CTDL_DEBUG, "Message %ld not in current room\n", msgnum);
1165                 return NULL;
1166         }
1167 #endif
1168
1169         dmsgtext = cdb_fetch(CDB_MSGMAIN, &msgnum, sizeof(long));
1170         if (dmsgtext == NULL) {
1171                 return NULL;
1172         }
1173         mptr = dmsgtext->ptr;
1174         upper_bound = mptr + dmsgtext->len;
1175
1176         /* Parse the three bytes that begin EVERY message on disk.
1177          * The first is always 0xFF, the on-disk magic number.
1178          * The second is the anonymous/public type byte.
1179          * The third is the format type byte (vari, fixed, or MIME).
1180          */
1181         ch = *mptr++;
1182         if (ch != 255) {
1183                 CtdlLogPrintf(CTDL_ERR, "Message %ld appears to be corrupted.\n", msgnum);
1184                 cdb_free(dmsgtext);
1185                 return NULL;
1186         }
1187         ret = (struct CtdlMessage *) malloc(sizeof(struct CtdlMessage));
1188         memset(ret, 0, sizeof(struct CtdlMessage));
1189
1190         ret->cm_magic = CTDLMESSAGE_MAGIC;
1191         ret->cm_anon_type = *mptr++;    /* Anon type byte */
1192         ret->cm_format_type = *mptr++;  /* Format type byte */
1193
1194         /*
1195          * The rest is zero or more arbitrary fields.  Load them in.
1196          * We're done when we encounter either a zero-length field or
1197          * have just processed the 'M' (message text) field.
1198          */
1199         do {
1200                 if (mptr >= upper_bound) {
1201                         break;
1202                 }
1203                 field_header = *mptr++;
1204                 ret->cm_fields[field_header] = strdup(mptr);
1205
1206                 while (*mptr++ != 0);   /* advance to next field */
1207
1208         } while ((mptr < upper_bound) && (field_header != 'M'));
1209
1210         cdb_free(dmsgtext);
1211
1212         /* Always make sure there's something in the msg text field.  If
1213          * it's NULL, the message text is most likely stored separately,
1214          * so go ahead and fetch that.  Failing that, just set a dummy
1215          * body so other code doesn't barf.
1216          */
1217         if ( (ret->cm_fields['M'] == NULL) && (with_body) ) {
1218                 dmsgtext = cdb_fetch(CDB_BIGMSGS, &msgnum, sizeof(long));
1219                 if (dmsgtext != NULL) {
1220                         ret->cm_fields['M'] = dmsgtext->ptr;
1221                         dmsgtext->ptr = NULL;
1222                         cdb_free(dmsgtext);
1223                 }
1224         }
1225         if (ret->cm_fields['M'] == NULL) {
1226                 ret->cm_fields['M'] = strdup("\r\n\r\n (no text)\r\n");
1227         }
1228
1229         /* Perform "before read" hooks (aborting if any return nonzero) */
1230         if (PerformMessageHooks(ret, EVT_BEFOREREAD) > 0) {
1231                 CtdlFreeMessage(ret);
1232                 return NULL;
1233         }
1234
1235         return (ret);
1236 }
1237
1238
1239 /*
1240  * Returns 1 if the supplied pointer points to a valid Citadel message.
1241  * If the pointer is NULL or the magic number check fails, returns 0.
1242  */
1243 int is_valid_message(struct CtdlMessage *msg) {
1244         if (msg == NULL)
1245                 return 0;
1246         if ((msg->cm_magic) != CTDLMESSAGE_MAGIC) {
1247                 CtdlLogPrintf(CTDL_WARNING, "is_valid_message() -- self-check failed\n");
1248                 return 0;
1249         }
1250         return 1;
1251 }
1252
1253
1254 /*
1255  * 'Destructor' for struct CtdlMessage
1256  */
1257 void CtdlFreeMessage(struct CtdlMessage *msg)
1258 {
1259         int i;
1260
1261         if (is_valid_message(msg) == 0) 
1262         {
1263                 if (msg != NULL) free (msg);
1264                 return;
1265         }
1266
1267         for (i = 0; i < 256; ++i)
1268                 if (msg->cm_fields[i] != NULL) {
1269                         free(msg->cm_fields[i]);
1270                 }
1271
1272         msg->cm_magic = 0;      /* just in case */
1273         free(msg);
1274 }
1275
1276
1277 /*
1278  * Pre callback function for multipart/alternative
1279  *
1280  * NOTE: this differs from the standard behavior for a reason.  Normally when
1281  *       displaying multipart/alternative you want to show the _last_ usable
1282  *       format in the message.  Here we show the _first_ one, because it's
1283  *       usually text/plain.  Since this set of functions is designed for text
1284  *       output to non-MIME-aware clients, this is the desired behavior.
1285  *
1286  */
1287 void fixed_output_pre(char *name, char *filename, char *partnum, char *disp,
1288                 void *content, char *cbtype, char *cbcharset, size_t length, char *encoding,
1289                 char *cbid, void *cbuserdata)
1290 {
1291         struct ma_info *ma;
1292         
1293         ma = (struct ma_info *)cbuserdata;
1294         CtdlLogPrintf(CTDL_DEBUG, "fixed_output_pre() type=<%s>\n", cbtype);    
1295         if (!strcasecmp(cbtype, "multipart/alternative")) {
1296                 ++ma->is_ma;
1297                 ma->did_print = 0;
1298         }
1299         if (!strcasecmp(cbtype, "message/rfc822")) {
1300                 ++ma->freeze;
1301         }
1302 }
1303
1304 /*
1305  * Post callback function for multipart/alternative
1306  */
1307 void fixed_output_post(char *name, char *filename, char *partnum, char *disp,
1308                 void *content, char *cbtype, char *cbcharset, size_t length,
1309                 char *encoding, char *cbid, void *cbuserdata)
1310 {
1311         struct ma_info *ma;
1312         
1313         ma = (struct ma_info *)cbuserdata;
1314         CtdlLogPrintf(CTDL_DEBUG, "fixed_output_post() type=<%s>\n", cbtype);   
1315         if (!strcasecmp(cbtype, "multipart/alternative")) {
1316                 --ma->is_ma;
1317                 ma->did_print = 0;
1318         }
1319         if (!strcasecmp(cbtype, "message/rfc822")) {
1320                 --ma->freeze;
1321         }
1322 }
1323
1324 /*
1325  * Inline callback function for mime parser that wants to display text
1326  */
1327 void fixed_output(char *name, char *filename, char *partnum, char *disp,
1328                 void *content, char *cbtype, char *cbcharset, size_t length,
1329                 char *encoding, char *cbid, void *cbuserdata)
1330 {
1331         char *ptr;
1332         char *wptr;
1333         size_t wlen;
1334         struct ma_info *ma;
1335
1336         ma = (struct ma_info *)cbuserdata;
1337
1338         CtdlLogPrintf(CTDL_DEBUG,
1339                 "fixed_output() part %s: %s (%s) (%ld bytes)\n",
1340                 partnum, filename, cbtype, (long)length);
1341
1342         /*
1343          * If we're in the middle of a multipart/alternative scope and
1344          * we've already printed another section, skip this one.
1345          */     
1346         if ( (ma->is_ma) && (ma->did_print) ) {
1347                 CtdlLogPrintf(CTDL_DEBUG, "Skipping part %s (%s)\n", partnum, cbtype);
1348                 return;
1349         }
1350         ma->did_print = 1;
1351
1352         if ( (!strcasecmp(cbtype, "text/plain")) 
1353            || (IsEmptyStr(cbtype)) ) {
1354                 wptr = content;
1355                 if (length > 0) {
1356                         client_write(wptr, length);
1357                         if (wptr[length-1] != '\n') {
1358                                 cprintf("\n");
1359                         }
1360                 }
1361                 return;
1362         }
1363
1364         if (!strcasecmp(cbtype, "text/html")) {
1365                 ptr = html_to_ascii(content, length, 80, 0);
1366                 wlen = strlen(ptr);
1367                 client_write(ptr, wlen);
1368                 if (ptr[wlen-1] != '\n') {
1369                         cprintf("\n");
1370                 }
1371                 free(ptr);
1372                 return;
1373         }
1374
1375         if (ma->use_fo_hooks) {
1376                 if (PerformFixedOutputHooks(cbtype, content, length)) {
1377                 /* above function returns nonzero if it handled the part */
1378                         return;
1379                 }
1380         }
1381
1382         if (strncasecmp(cbtype, "multipart/", 10)) {
1383                 cprintf("Part %s: %s (%s) (%ld bytes)\r\n",
1384                         partnum, filename, cbtype, (long)length);
1385                 return;
1386         }
1387 }
1388
1389 /*
1390  * The client is elegant and sophisticated and wants to be choosy about
1391  * MIME content types, so figure out which multipart/alternative part
1392  * we're going to send.
1393  *
1394  * We use a system of weights.  When we find a part that matches one of the
1395  * MIME types we've declared as preferential, we can store it in ma->chosen_part
1396  * and then set ma->chosen_pref to that MIME type's position in our preference
1397  * list.  If we then hit another match, we only replace the first match if
1398  * the preference value is lower.
1399  */
1400 void choose_preferred(char *name, char *filename, char *partnum, char *disp,
1401                 void *content, char *cbtype, char *cbcharset, size_t length,
1402                 char *encoding, char *cbid, void *cbuserdata)
1403 {
1404         char buf[1024];
1405         int i;
1406         struct ma_info *ma;
1407         
1408         ma = (struct ma_info *)cbuserdata;
1409
1410         // NOTE: REMOVING THIS CONDITIONAL FIXES BUG 220
1411         //       http://bugzilla.citadel.org/show_bug.cgi?id=220
1412         // I don't know if there are any side effects!  Please TEST TEST TEST
1413         //if (ma->is_ma > 0) {
1414
1415         for (i=0; i<num_tokens(CC->preferred_formats, '|'); ++i) {
1416                 extract_token(buf, CC->preferred_formats, i, '|', sizeof buf);
1417                 if ( (!strcasecmp(buf, cbtype)) && (!ma->freeze) ) {
1418                         if (i < ma->chosen_pref) {
1419                                 CtdlLogPrintf(CTDL_DEBUG, "Setting chosen part: <%s>\n", partnum);
1420                                 safestrncpy(ma->chosen_part, partnum, sizeof ma->chosen_part);
1421                                 ma->chosen_pref = i;
1422                         }
1423                 }
1424         }
1425 }
1426
1427 /*
1428  * Now that we've chosen our preferred part, output it.
1429  */
1430 void output_preferred(char *name, char *filename, char *partnum, char *disp,
1431                 void *content, char *cbtype, char *cbcharset, size_t length,
1432                 char *encoding, char *cbid, void *cbuserdata)
1433 {
1434         int i;
1435         char buf[128];
1436         int add_newline = 0;
1437         char *text_content;
1438         struct ma_info *ma;
1439         
1440         ma = (struct ma_info *)cbuserdata;
1441
1442         /* This is not the MIME part you're looking for... */
1443         if (strcasecmp(partnum, ma->chosen_part)) return;
1444
1445         /* If the content-type of this part is in our preferred formats
1446          * list, we can simply output it verbatim.
1447          */
1448         for (i=0; i<num_tokens(CC->preferred_formats, '|'); ++i) {
1449                 extract_token(buf, CC->preferred_formats, i, '|', sizeof buf);
1450                 if (!strcasecmp(buf, cbtype)) {
1451                         /* Yeah!  Go!  W00t!! */
1452
1453                         text_content = (char *)content;
1454                         if (text_content[length-1] != '\n') {
1455                                 ++add_newline;
1456                         }
1457                         cprintf("Content-type: %s", cbtype);
1458                         if (!IsEmptyStr(cbcharset)) {
1459                                 cprintf("; charset=%s", cbcharset);
1460                         }
1461                         cprintf("\nContent-length: %d\n",
1462                                 (int)(length + add_newline) );
1463                         if (!IsEmptyStr(encoding)) {
1464                                 cprintf("Content-transfer-encoding: %s\n", encoding);
1465                         }
1466                         else {
1467                                 cprintf("Content-transfer-encoding: 7bit\n");
1468                         }
1469                         cprintf("X-Citadel-MSG4-Partnum: %s\n", partnum);
1470                         cprintf("\n");
1471                         client_write(content, length);
1472                         if (add_newline) cprintf("\n");
1473                         return;
1474                 }
1475         }
1476
1477         /* No translations required or possible: output as text/plain */
1478         cprintf("Content-type: text/plain\n\n");
1479         fixed_output(name, filename, partnum, disp, content, cbtype, cbcharset,
1480                         length, encoding, cbid, cbuserdata);
1481 }
1482
1483
1484 struct encapmsg {
1485         char desired_section[64];
1486         char *msg;
1487         size_t msglen;
1488 };
1489
1490
1491 /*
1492  * Callback function for
1493  */
1494 void extract_encapsulated_message(char *name, char *filename, char *partnum, char *disp,
1495                    void *content, char *cbtype, char *cbcharset, size_t length,
1496                    char *encoding, char *cbid, void *cbuserdata)
1497 {
1498         struct encapmsg *encap;
1499
1500         encap = (struct encapmsg *)cbuserdata;
1501
1502         /* Only proceed if this is the desired section... */
1503         if (!strcasecmp(encap->desired_section, partnum)) {
1504                 encap->msglen = length;
1505                 encap->msg = malloc(length + 2);
1506                 memcpy(encap->msg, content, length);
1507                 return;
1508         }
1509 }
1510
1511
1512 /* 
1513  * Determine whether the currently logged in session has permission to read
1514  * messages in the current room.
1515  */
1516 int CtdlDoIHavePermissionToReadMessagesInThisRoom(void) {
1517         if (    (!(CC->logged_in))
1518                 && (!(CC->internal_pgm))
1519                 && (!config.c_guest_logins)
1520         ) {
1521                 return(om_not_logged_in);
1522         }
1523         return(om_ok);
1524 }
1525
1526
1527 /*
1528  * Get a message off disk.  (returns om_* values found in msgbase.h)
1529  * 
1530  */
1531 int CtdlOutputMsg(long msg_num,         /* message number (local) to fetch */
1532                   int mode,             /* how would you like that message? */
1533                   int headers_only,     /* eschew the message body? */
1534                   int do_proto,         /* do Citadel protocol responses? */
1535                   int crlf,             /* Use CRLF newlines instead of LF? */
1536                   char *section,        /* NULL or a message/rfc822 section */
1537                   int flags             /* various flags; see msgbase.h */
1538 ) {
1539         struct CtdlMessage *TheMessage = NULL;
1540         int retcode = om_no_such_msg;
1541         struct encapmsg encap;
1542         int r;
1543
1544         CtdlLogPrintf(CTDL_DEBUG, "CtdlOutputMsg(msgnum=%ld, mode=%d, section=%s)\n", 
1545                 msg_num, mode,
1546                 (section ? section : "<>")
1547         );
1548
1549         r = CtdlDoIHavePermissionToReadMessagesInThisRoom();
1550         if (r != om_ok) {
1551                 if (do_proto) {
1552                         if (r == om_not_logged_in) {
1553                                 cprintf("%d Not logged in.\n", ERROR + NOT_LOGGED_IN);
1554                         }
1555                         else {
1556                                 cprintf("%d An unknown error has occurred.\n", ERROR);
1557                         }
1558                 }
1559                 return(r);
1560         }
1561
1562 #ifdef MESSAGE_IN_ROOM
1563         if (!CtdlMessageInRoom(msg_num)) {
1564                 CtdlLogPrintf(CTDL_DEBUG, "Message %ld not in current room\n", msg_num);
1565                 if (do_proto) cprintf("%d Can't locate msg %ld in room\n",
1566                         ERROR + MESSAGE_NOT_FOUND, msg_num);
1567                 return(om_no_such_msg);
1568         }
1569 #endif
1570
1571         /*
1572          * Fetch the message from disk.  If we're in HEADERS_FAST mode,
1573          * request that we don't even bother loading the body into memory.
1574          */
1575         if (headers_only == HEADERS_FAST) {
1576                 TheMessage = CtdlFetchMessage(msg_num, 0);
1577         }
1578         else {
1579                 TheMessage = CtdlFetchMessage(msg_num, 1);
1580         }
1581
1582         if (TheMessage == NULL) {
1583                 if (do_proto) cprintf("%d Can't locate msg %ld on disk\n",
1584                         ERROR + MESSAGE_NOT_FOUND, msg_num);
1585                 return(om_no_such_msg);
1586         }
1587
1588         /* Here is the weird form of this command, to process only an
1589          * encapsulated message/rfc822 section.
1590          */
1591         if (section) if (!IsEmptyStr(section)) if (strcmp(section, "0")) {
1592                 memset(&encap, 0, sizeof encap);
1593                 safestrncpy(encap.desired_section, section, sizeof encap.desired_section);
1594                 mime_parser(TheMessage->cm_fields['M'],
1595                         NULL,
1596                         *extract_encapsulated_message,
1597                         NULL, NULL, (void *)&encap, 0
1598                 );
1599                 CtdlFreeMessage(TheMessage);
1600                 TheMessage = NULL;
1601
1602                 if (encap.msg) {
1603                         encap.msg[encap.msglen] = 0;
1604                         TheMessage = convert_internet_message(encap.msg);
1605                         encap.msg = NULL;       /* no free() here, TheMessage owns it now */
1606
1607                         /* Now we let it fall through to the bottom of this
1608                          * function, because TheMessage now contains the
1609                          * encapsulated message instead of the top-level
1610                          * message.  Isn't that neat?
1611                          */
1612
1613                 }
1614                 else {
1615                         if (do_proto) cprintf("%d msg %ld has no part %s\n",
1616                                 ERROR + MESSAGE_NOT_FOUND, msg_num, section);
1617                         retcode = om_no_such_msg;
1618                 }
1619
1620         }
1621
1622         /* Ok, output the message now */
1623         retcode = CtdlOutputPreLoadedMsg(TheMessage, mode, headers_only, do_proto, crlf, flags);
1624         CtdlFreeMessage(TheMessage);
1625
1626         return(retcode);
1627 }
1628
1629
1630 char *qp_encode_email_addrs(char *source)
1631 {
1632         char *user, *node, *name;
1633         const char headerStr[] = "=?UTF-8?Q?";
1634         char *Encoded;
1635         char *EncodedName;
1636         char *nPtr;
1637         int need_to_encode = 0;
1638         long SourceLen;
1639         long EncodedMaxLen;
1640         long nColons = 0;
1641         long *AddrPtr;
1642         long *AddrUtf8;
1643         long nAddrPtrMax = 50;
1644         long nmax;
1645         int InQuotes = 0;
1646         int i, n;
1647
1648         if (source == NULL) return source;
1649         if (IsEmptyStr(source)) return source;
1650         cit_backtrace();
1651         CtdlLogPrintf(CTDL_DEBUG, "qp_encode_email_addrs: [%s]\n", source);
1652
1653         AddrPtr = malloc (sizeof (long) * nAddrPtrMax);
1654         AddrUtf8 = malloc (sizeof (long) * nAddrPtrMax);
1655         memset(AddrUtf8, 0, sizeof (long) * nAddrPtrMax);
1656         *AddrPtr = 0;
1657         i = 0;
1658         while (!IsEmptyStr (&source[i])) {
1659                 if (nColons >= nAddrPtrMax){
1660                         long *ptr;
1661
1662                         ptr = (long *) malloc(sizeof (long) * nAddrPtrMax * 2);
1663                         memcpy (ptr, AddrPtr, sizeof (long) * nAddrPtrMax);
1664                         free (AddrPtr), AddrPtr = ptr;
1665
1666                         ptr = (long *) malloc(sizeof (long) * nAddrPtrMax * 2);
1667                         memset(&ptr[nAddrPtrMax], 0, 
1668                                sizeof (long) * nAddrPtrMax);
1669
1670                         memcpy (ptr, AddrUtf8, sizeof (long) * nAddrPtrMax);
1671                         free (AddrUtf8), AddrUtf8 = ptr;
1672                         nAddrPtrMax *= 2;                               
1673                 }
1674                 if (((unsigned char) source[i] < 32) || 
1675                     ((unsigned char) source[i] > 126)) {
1676                         need_to_encode = 1;
1677                         AddrUtf8[nColons] = 1;
1678                 }
1679                 if (source[i] == '"')
1680                         InQuotes = !InQuotes;
1681                 if (!InQuotes && source[i] == ',') {
1682                         AddrPtr[nColons] = i;
1683                         nColons++;
1684                 }
1685                 i++;
1686         }
1687         if (need_to_encode == 0) {
1688                 free(AddrPtr);
1689                 free(AddrUtf8);
1690                 return source;
1691         }
1692
1693         SourceLen = i;
1694         EncodedMaxLen = nColons * (sizeof(headerStr) + 3) + SourceLen * 3;
1695         Encoded = (char*) malloc (EncodedMaxLen);
1696
1697         for (i = 0; i < nColons; i++)
1698                 source[AddrPtr[i]++] = '\0';
1699         /* TODO: if libidn, this might get larger*/
1700         user = malloc(SourceLen + 1);
1701         node = malloc(SourceLen + 1);
1702         name = malloc(SourceLen + 1);
1703
1704         nPtr = Encoded;
1705         *nPtr = '\0';
1706         for (i = 0; i < nColons && nPtr != NULL; i++) {
1707                 nmax = EncodedMaxLen - (nPtr - Encoded);
1708                 if (AddrUtf8[i]) {
1709                         process_rfc822_addr(&source[AddrPtr[i]], 
1710                                             user,
1711                                             node,
1712                                             name);
1713                         /* TODO: libIDN here ! */
1714                         if (IsEmptyStr(name)) {
1715                                 n = snprintf(nPtr, nmax, 
1716                                              (i==0)?"%s@%s" : ",%s@%s",
1717                                              user, node);
1718                         }
1719                         else {
1720                                 EncodedName = rfc2047encode(name, strlen(name));                        
1721                                 n = snprintf(nPtr, nmax, 
1722                                              (i==0)?"%s <%s@%s>" : ",%s <%s@%s>",
1723                                              EncodedName, user, node);
1724                                 free(EncodedName);
1725                         }
1726                 }
1727                 else { 
1728                         n = snprintf(nPtr, nmax, 
1729                                      (i==0)?"%s" : ",%s",
1730                                      &source[AddrPtr[i]]);
1731                 }
1732                 if (n > 0 )
1733                         nPtr += n;
1734                 else { 
1735                         char *ptr, *nnPtr;
1736                         ptr = (char*) malloc(EncodedMaxLen * 2);
1737                         memcpy(ptr, Encoded, EncodedMaxLen);
1738                         nnPtr = ptr + (nPtr - Encoded), nPtr = nnPtr;
1739                         free(Encoded), Encoded = ptr;
1740                         EncodedMaxLen *= 2;
1741                         i--; /* do it once more with properly lengthened buffer */
1742                 }
1743         }
1744         for (i = 0; i < nColons; i++)
1745                 source[--AddrPtr[i]] = ',';
1746
1747         free(user);
1748         free(node);
1749         free(name);
1750         free(AddrUtf8);
1751         free(AddrPtr);
1752         return Encoded;
1753 }
1754
1755
1756 /* If the last item in a list of recipients was truncated to a partial address,
1757  * remove it completely in order to avoid choking libSieve
1758  */
1759 void sanitize_truncated_recipient(char *str)
1760 {
1761         if (!str) return;
1762         if (num_tokens(str, ',') < 2) return;
1763
1764         int len = strlen(str);
1765         if (len < 900) return;
1766         if (len > 998) str[998] = 0;
1767
1768         char *cptr = strrchr(str, ',');
1769         if (!cptr) return;
1770
1771         char *lptr = strchr(cptr, '<');
1772         char *rptr = strchr(cptr, '>');
1773
1774         if ( (lptr) && (rptr) && (rptr > lptr) ) return;
1775
1776         *cptr = 0;
1777 }
1778
1779
1780 void OutputCtdlMsgHeaders(
1781         struct CtdlMessage *TheMessage,
1782         int do_proto)           /* do Citadel protocol responses? */
1783 {
1784         char allkeys[30];
1785         int i, k, n;
1786         int suppress_f = 0;
1787         char buf[SIZ];
1788         char display_name[256];
1789
1790         /* begin header processing loop for Citadel message format */
1791         safestrncpy(display_name, "<unknown>", sizeof display_name);
1792         if (TheMessage->cm_fields['A']) {
1793                 strcpy(buf, TheMessage->cm_fields['A']);
1794                 if (TheMessage->cm_anon_type == MES_ANONONLY) {
1795                         safestrncpy(display_name, "****", sizeof display_name);
1796                 }
1797                 else if (TheMessage->cm_anon_type == MES_ANONOPT) {
1798                         safestrncpy(display_name, "anonymous", sizeof display_name);
1799                 }
1800                 else {
1801                         safestrncpy(display_name, buf, sizeof display_name);
1802                 }
1803                 if ((is_room_aide())
1804                     && ((TheMessage->cm_anon_type == MES_ANONONLY)
1805                         || (TheMessage->cm_anon_type == MES_ANONOPT))) {
1806                         size_t tmp = strlen(display_name);
1807                         snprintf(&display_name[tmp],
1808                                  sizeof display_name - tmp,
1809                                  " [%s]", buf);
1810                 }
1811         }
1812
1813         /* Don't show Internet address for users on the
1814          * local Citadel network.
1815          */
1816         suppress_f = 0;
1817         if (TheMessage->cm_fields['N'] != NULL)
1818                 if (!IsEmptyStr(TheMessage->cm_fields['N']))
1819                         if (haschar(TheMessage->cm_fields['N'], '.') == 0) {
1820                                 suppress_f = 1;
1821                         }
1822
1823         /* Now spew the header fields in the order we like them. */
1824         n = safestrncpy(allkeys, FORDER, sizeof allkeys);
1825         for (i=0; i<n; ++i) {
1826                 k = (int) allkeys[i];
1827                 if (k != 'M') {
1828                         if ( (TheMessage->cm_fields[k] != NULL)
1829                              && (msgkeys[k] != NULL) ) {
1830                                 if ((k == 'V') || (k == 'R') || (k == 'Y')) {
1831                                         sanitize_truncated_recipient(TheMessage->cm_fields[k]);
1832                                 }
1833                                 if (k == 'A') {
1834                                         if (do_proto) cprintf("%s=%s\n",
1835                                                               msgkeys[k],
1836                                                               display_name);
1837                                 }
1838                                 else if ((k == 'F') && (suppress_f)) {
1839                                         /* do nothing */
1840                                 }
1841                                 /* Masquerade display name if needed */
1842                                 else {
1843                                         if (do_proto) cprintf("%s=%s\n",
1844                                                               msgkeys[k],
1845                                                               TheMessage->cm_fields[k]
1846                                                 );
1847                                 }
1848                         }
1849                 }
1850         }
1851
1852 }
1853
1854 void OutputRFC822MsgHeaders(
1855         struct CtdlMessage *TheMessage,
1856         int flags,              /* should the bessage be exported clean */
1857         const char *nl,
1858         char *mid, long sizeof_mid,
1859         char *suser, long sizeof_suser,
1860         char *luser, long sizeof_luser,
1861         char *fuser, long sizeof_fuser,
1862         char *snode, long sizeof_snode)
1863 {
1864         char datestamp[100];
1865         int subject_found = 0;
1866         char buf[SIZ];
1867         int i, j, k;
1868         char *mptr = NULL;
1869         char *mpptr = NULL;
1870
1871         for (i = 0; i < 256; ++i) {
1872                 if (TheMessage->cm_fields[i]) {
1873                         mptr = mpptr = TheMessage->cm_fields[i];
1874                                 
1875                         if (i == 'A') {
1876                                 safestrncpy(luser, mptr, sizeof_luser);
1877                                 safestrncpy(suser, mptr, sizeof_suser);
1878                         }
1879                         else if (i == 'Y') {
1880                                 if ((flags & QP_EADDR) != 0) {
1881                                         mptr = qp_encode_email_addrs(mptr);
1882                                 }
1883                                 sanitize_truncated_recipient(mptr);
1884                                 cprintf("CC: %s%s", mptr, nl);
1885                         }
1886                         else if (i == 'P') {
1887                                 cprintf("Return-Path: %s%s", mptr, nl);
1888                         }
1889                         else if (i == 'L') {
1890                                 cprintf("List-ID: %s%s", mptr, nl);
1891                         }
1892                         else if (i == 'V') {
1893                                 if ((flags & QP_EADDR) != 0) 
1894                                         mptr = qp_encode_email_addrs(mptr);
1895                                 cprintf("Envelope-To: %s%s", mptr, nl);
1896                         }
1897                         else if (i == 'U') {
1898                                 cprintf("Subject: %s%s", mptr, nl);
1899                                 subject_found = 1;
1900                         }
1901                         else if (i == 'I')
1902                                 safestrncpy(mid, mptr, sizeof_mid); /// TODO: detect @ here and copy @nodename in if not found.
1903                         else if (i == 'F')
1904                                 safestrncpy(fuser, mptr, sizeof_fuser);
1905                         /* else if (i == 'O')
1906                            cprintf("X-Citadel-Room: %s%s",
1907                            mptr, nl); */
1908                         else if (i == 'N')
1909                                 safestrncpy(snode, mptr, sizeof_snode);
1910                         else if (i == 'R')
1911                         {
1912                                 if (haschar(mptr, '@') == 0)
1913                                 {
1914                                         sanitize_truncated_recipient(mptr);
1915                                         cprintf("To: %s@%s", mptr, config.c_fqdn);
1916                                         cprintf("%s", nl);
1917                                 }
1918                                 else
1919                                 {
1920                                         if ((flags & QP_EADDR) != 0) {
1921                                                 mptr = qp_encode_email_addrs(mptr);
1922                                         }
1923                                         sanitize_truncated_recipient(mptr);
1924                                         cprintf("To: %s", mptr);
1925                                         cprintf("%s", nl);
1926                                 }
1927                         }
1928                         else if (i == 'T') {
1929                                 datestring(datestamp, sizeof datestamp,
1930                                            atol(mptr), DATESTRING_RFC822);
1931                                 cprintf("Date: %s%s", datestamp, nl);
1932                         }
1933                         else if (i == 'W') {
1934                                 cprintf("References: ");
1935                                 k = num_tokens(mptr, '|');
1936                                 for (j=0; j<k; ++j) {
1937                                         extract_token(buf, mptr, j, '|', sizeof buf);
1938                                         cprintf("<%s>", buf);
1939                                         if (j == (k-1)) {
1940                                                 cprintf("%s", nl);
1941                                         }
1942                                         else {
1943                                                 cprintf(" ");
1944                                         }
1945                                 }
1946                         }
1947                         else if (i == 'K') {
1948                                 cprintf("Reply-To: <%s>%s", mptr, nl);
1949                         }
1950                         if (mptr != mpptr)
1951                                 free (mptr);
1952                 }
1953         }
1954         if (subject_found == 0) {
1955                 cprintf("Subject: (no subject)%s", nl);
1956         }
1957 }
1958
1959
1960 void Dump_RFC822HeadersBody(
1961         struct CtdlMessage *TheMessage,
1962         int headers_only,       /* eschew the message body? */
1963         int flags,              /* should the bessage be exported clean? */
1964
1965         const char *nl)
1966 {
1967         cit_uint8_t prev_ch;
1968         int eoh = 0;
1969         const char *StartOfText = StrBufNOTNULL;
1970         char outbuf[1024];
1971         int outlen = 0;
1972         int nllen = strlen(nl);
1973         char *mptr;
1974
1975         mptr = TheMessage->cm_fields['M'];
1976
1977
1978         prev_ch = '\0';
1979         while (*mptr != '\0') {
1980                 if (*mptr == '\r') {
1981                         /* do nothing */
1982                 }
1983                 else {
1984                         if ((!eoh) &&
1985                             (*mptr == '\n'))
1986                         {
1987                                 eoh = (*(mptr+1) == '\r') && (*(mptr+2) == '\n');
1988                                 if (!eoh)
1989                                         eoh = *(mptr+1) == '\n';
1990                                 if (eoh)
1991                                 {
1992                                         StartOfText = mptr;
1993                                         StartOfText = strchr(StartOfText, '\n');
1994                                         StartOfText = strchr(StartOfText, '\n');
1995                                 }
1996                         }
1997                         if (((headers_only == HEADERS_NONE) && (mptr >= StartOfText)) ||
1998                             ((headers_only == HEADERS_ONLY) && (mptr < StartOfText)) ||
1999                             ((headers_only != HEADERS_NONE) && 
2000                              (headers_only != HEADERS_ONLY))
2001                                 ) {
2002                                 if (*mptr == '\n') {
2003                                         memcpy(&outbuf[outlen], nl, nllen);
2004                                         outlen += nllen;
2005                                         outbuf[outlen] = '\0';
2006                                 }
2007                                 else {
2008                                         outbuf[outlen++] = *mptr;
2009                                 }
2010                         }
2011                 }
2012                 if (flags & ESC_DOT)
2013                 {
2014                         if ((prev_ch == '\n') && 
2015                             (*mptr == '.') && 
2016                             ((*(mptr+1) == '\r') || (*(mptr+1) == '\n')))
2017                         {
2018                                 outbuf[outlen++] = '.';
2019                         }
2020                         prev_ch = *mptr;
2021                 }
2022                 ++mptr;
2023                 if (outlen > 1000) {
2024                         client_write(outbuf, outlen);
2025                         outlen = 0;
2026                 }
2027         }
2028         if (outlen > 0) {
2029                 client_write(outbuf, outlen);
2030                 outlen = 0;
2031         }
2032 }
2033
2034
2035
2036 /* If the format type on disk is 1 (fixed-format), then we want
2037  * everything to be output completely literally ... regardless of
2038  * what message transfer format is in use.
2039  */
2040 void DumpFormatFixed(
2041         struct CtdlMessage *TheMessage,
2042         int mode,               /* how would you like that message? */
2043         const char *nl)
2044 {
2045         cit_uint8_t ch;
2046         char buf[SIZ];
2047         int buflen;
2048         int xlline = 0;
2049         int nllen = strlen (nl);
2050         char *mptr;
2051
2052         mptr = TheMessage->cm_fields['M'];
2053         
2054         if (mode == MT_MIME) {
2055                 cprintf("Content-type: text/plain\n\n");
2056         }
2057         *buf = '\0';
2058         buflen = 0;
2059         while (ch = *mptr++, ch > 0) {
2060                 if (ch == '\n')
2061                         ch = '\r';
2062
2063                 if ((buflen > 250) && (!xlline)){
2064                         int tbuflen;
2065                         tbuflen = buflen;
2066
2067                         while ((buflen > 0) && 
2068                                (!isspace(buf[buflen])))
2069                                 buflen --;
2070                         if (buflen == 0) {
2071                                 xlline = 1;
2072                         }
2073                         else {
2074                                 mptr -= tbuflen - buflen;
2075                                 buf[buflen] = '\0';
2076                                 ch = '\r';
2077                         }
2078                 }
2079                 /* if we reach the outer bounds of our buffer, 
2080                    abort without respect what whe purge. */
2081                 if (xlline && 
2082                     ((isspace(ch)) || 
2083                      (buflen > SIZ - nllen - 2)))
2084                         ch = '\r';
2085
2086                 if (ch == '\r') {
2087                         memcpy (&buf[buflen], nl, nllen);
2088                         buflen += nllen;
2089                         buf[buflen] = '\0';
2090
2091                         client_write(buf, buflen);
2092                         *buf = '\0';
2093                         buflen = 0;
2094                         xlline = 0;
2095                 } else {
2096                         buf[buflen] = ch;
2097                         buflen++;
2098                 }
2099         }
2100         buf[buflen] = '\0';
2101         if (!IsEmptyStr(buf))
2102                 cprintf("%s%s", buf, nl);
2103 }
2104
2105 /*
2106  * Get a message off disk.  (returns om_* values found in msgbase.h)
2107  */
2108 int CtdlOutputPreLoadedMsg(
2109                 struct CtdlMessage *TheMessage,
2110                 int mode,               /* how would you like that message? */
2111                 int headers_only,       /* eschew the message body? */
2112                 int do_proto,           /* do Citadel protocol responses? */
2113                 int crlf,               /* Use CRLF newlines instead of LF? */
2114                 int flags               /* should the bessage be exported clean? */
2115 ) {
2116         int i;
2117         char *mptr = NULL;
2118         const char *nl; /* newline string */
2119         struct ma_info ma;
2120
2121         /* Buffers needed for RFC822 translation.  These are all filled
2122          * using functions that are bounds-checked, and therefore we can
2123          * make them substantially smaller than SIZ.
2124          */
2125         char suser[100];
2126         char luser[100];
2127         char fuser[100];
2128         char snode[100];
2129         char mid[100];
2130
2131         CtdlLogPrintf(CTDL_DEBUG, "CtdlOutputPreLoadedMsg(TheMessage=%s, %d, %d, %d, %d\n",
2132                 ((TheMessage == NULL) ? "NULL" : "not null"),
2133                 mode, headers_only, do_proto, crlf);
2134
2135         strcpy(mid, "unknown");
2136         nl = (crlf ? "\r\n" : "\n");
2137
2138         if (!is_valid_message(TheMessage)) {
2139                 CtdlLogPrintf(CTDL_ERR,
2140                         "ERROR: invalid preloaded message for output\n");
2141                 cit_backtrace ();
2142                 return(om_no_such_msg);
2143         }
2144
2145         /* Suppress envelope recipients if required to avoid disclosing BCC addresses.
2146          * Pad it with spaces in order to avoid changing the RFC822 length of the message.
2147          */
2148         if ( (flags & SUPPRESS_ENV_TO) && (TheMessage->cm_fields['V'] != NULL) ) {
2149                 memset(TheMessage->cm_fields['V'], ' ', strlen(TheMessage->cm_fields['V']));
2150         }
2151                 
2152         /* Are we downloading a MIME component? */
2153         if (mode == MT_DOWNLOAD) {
2154                 if (TheMessage->cm_format_type != FMT_RFC822) {
2155                         if (do_proto)
2156                                 cprintf("%d This is not a MIME message.\n",
2157                                 ERROR + ILLEGAL_VALUE);
2158                 } else if (CC->download_fp != NULL) {
2159                         if (do_proto) cprintf(
2160                                 "%d You already have a download open.\n",
2161                                 ERROR + RESOURCE_BUSY);
2162                 } else {
2163                         /* Parse the message text component */
2164                         mptr = TheMessage->cm_fields['M'];
2165                         mime_parser(mptr, NULL, *mime_download, NULL, NULL, NULL, 0);
2166                         /* If there's no file open by this time, the requested
2167                          * section wasn't found, so print an error
2168                          */
2169                         if (CC->download_fp == NULL) {
2170                                 if (do_proto) cprintf(
2171                                         "%d Section %s not found.\n",
2172                                         ERROR + FILE_NOT_FOUND,
2173                                         CC->download_desired_section);
2174                         }
2175                 }
2176                 return((CC->download_fp != NULL) ? om_ok : om_mime_error);
2177         }
2178
2179         /* MT_SPEW_SECTION is like MT_DOWNLOAD except it outputs the whole MIME part
2180          * in a single server operation instead of opening a download file.
2181          */
2182         if (mode == MT_SPEW_SECTION) {
2183                 if (TheMessage->cm_format_type != FMT_RFC822) {
2184                         if (do_proto)
2185                                 cprintf("%d This is not a MIME message.\n",
2186                                 ERROR + ILLEGAL_VALUE);
2187                 } else {
2188                         /* Parse the message text component */
2189                         int found_it = 0;
2190
2191                         mptr = TheMessage->cm_fields['M'];
2192                         mime_parser(mptr, NULL, *mime_spew_section, NULL, NULL, (void *)&found_it, 0);
2193                         /* If section wasn't found, print an error
2194                          */
2195                         if (!found_it) {
2196                                 if (do_proto) cprintf(
2197                                         "%d Section %s not found.\n",
2198                                         ERROR + FILE_NOT_FOUND,
2199                                         CC->download_desired_section);
2200                         }
2201                 }
2202                 return((CC->download_fp != NULL) ? om_ok : om_mime_error);
2203         }
2204
2205         /* now for the user-mode message reading loops */
2206         if (do_proto) cprintf("%d msg:\n", LISTING_FOLLOWS);
2207
2208         /* Does the caller want to skip the headers? */
2209         if (headers_only == HEADERS_NONE) goto START_TEXT;
2210
2211         /* Tell the client which format type we're using. */
2212         if ( (mode == MT_CITADEL) && (do_proto) ) {
2213                 cprintf("type=%d\n", TheMessage->cm_format_type);
2214         }
2215
2216         /* nhdr=yes means that we're only displaying headers, no body */
2217         if ( (TheMessage->cm_anon_type == MES_ANONONLY)
2218            && ((mode == MT_CITADEL) || (mode == MT_MIME))
2219            && (do_proto)
2220            ) {
2221                 cprintf("nhdr=yes\n");
2222         }
2223
2224         if ((mode == MT_CITADEL) || (mode == MT_MIME)) 
2225                 OutputCtdlMsgHeaders(TheMessage, do_proto);
2226
2227
2228         /* begin header processing loop for RFC822 transfer format */
2229         strcpy(suser, "");
2230         strcpy(luser, "");
2231         strcpy(fuser, "");
2232         strcpy(snode, NODENAME);
2233         if (mode == MT_RFC822) 
2234                 OutputRFC822MsgHeaders(
2235                         TheMessage,
2236                         flags,
2237                         nl,
2238                         mid, sizeof(mid),
2239                         suser, sizeof(suser),
2240                         luser, sizeof(luser),
2241                         fuser, sizeof(fuser),
2242                         snode, sizeof(snode)
2243                         );
2244
2245
2246         for (i=0; !IsEmptyStr(&suser[i]); ++i) {
2247                 suser[i] = tolower(suser[i]);
2248                 if (!isalnum(suser[i])) suser[i]='_';
2249         }
2250
2251         if (mode == MT_RFC822) {
2252                 if (!strcasecmp(snode, NODENAME)) {
2253                         safestrncpy(snode, FQDN, sizeof snode);
2254                 }
2255
2256                 /* Construct a fun message id */
2257                 cprintf("Message-ID: <%s", mid);/// todo: this possibly breaks threadding mails.
2258                 if (strchr(mid, '@')==NULL) {
2259                         cprintf("@%s", snode);
2260                 }
2261                 cprintf(">%s", nl);
2262
2263                 if (!is_room_aide() && (TheMessage->cm_anon_type == MES_ANONONLY)) {
2264                         cprintf("From: \"----\" <x@x.org>%s", nl);
2265                 }
2266                 else if (!is_room_aide() && (TheMessage->cm_anon_type == MES_ANONOPT)) {
2267                         cprintf("From: \"anonymous\" <x@x.org>%s", nl);
2268                 }
2269                 else if (!IsEmptyStr(fuser)) {
2270                         cprintf("From: \"%s\" <%s>%s", luser, fuser, nl);
2271                 }
2272                 else {
2273                         cprintf("From: \"%s\" <%s@%s>%s", luser, suser, snode, nl);
2274                 }
2275
2276                 /* Blank line signifying RFC822 end-of-headers */
2277                 if (TheMessage->cm_format_type != FMT_RFC822) {
2278                         cprintf("%s", nl);
2279                 }
2280         }
2281
2282         /* end header processing loop ... at this point, we're in the text */
2283 START_TEXT:
2284         if (headers_only == HEADERS_FAST) goto DONE;
2285
2286         /* Tell the client about the MIME parts in this message */
2287         if (TheMessage->cm_format_type == FMT_RFC822) {
2288                 if ( (mode == MT_CITADEL) || (mode == MT_MIME) ) {
2289                         mptr = TheMessage->cm_fields['M'];
2290                         memset(&ma, 0, sizeof(struct ma_info));
2291                         mime_parser(mptr, NULL,
2292                                 (do_proto ? *list_this_part : NULL),
2293                                 (do_proto ? *list_this_pref : NULL),
2294                                 (do_proto ? *list_this_suff : NULL),
2295                                 (void *)&ma, 0);
2296                 }
2297                 else if (mode == MT_RFC822) {   /* unparsed RFC822 dump */
2298                         Dump_RFC822HeadersBody(
2299                                 TheMessage,
2300                                 headers_only,
2301                                 flags,
2302                                 nl);
2303                         goto DONE;
2304                 }
2305         }
2306
2307         if (headers_only == HEADERS_ONLY) {
2308                 goto DONE;
2309         }
2310
2311         /* signify start of msg text */
2312         if ( (mode == MT_CITADEL) || (mode == MT_MIME) ) {
2313                 if (do_proto) cprintf("text\n");
2314         }
2315
2316         if (TheMessage->cm_format_type == FMT_FIXED) 
2317                 DumpFormatFixed(
2318                         TheMessage,
2319                         mode,           /* how would you like that message? */
2320                         nl);
2321
2322         /* If the message on disk is format 0 (Citadel vari-format), we
2323          * output using the formatter at 80 columns.  This is the final output
2324          * form if the transfer format is RFC822, but if the transfer format
2325          * is Citadel proprietary, it'll still work, because the indentation
2326          * for new paragraphs is correct and the client will reformat the
2327          * message to the reader's screen width.
2328          */
2329         if (TheMessage->cm_format_type == FMT_CITADEL) {
2330                 mptr = TheMessage->cm_fields['M'];
2331
2332                 if (mode == MT_MIME) {
2333                         cprintf("Content-type: text/x-citadel-variformat\n\n");
2334                 }
2335                 memfmout(mptr, nl);
2336         }
2337
2338         /* If the message on disk is format 4 (MIME), we've gotta hand it
2339          * off to the MIME parser.  The client has already been told that
2340          * this message is format 1 (fixed format), so the callback function
2341          * we use will display those parts as-is.
2342          */
2343         if (TheMessage->cm_format_type == FMT_RFC822) {
2344                 memset(&ma, 0, sizeof(struct ma_info));
2345
2346                 if (mode == MT_MIME) {
2347                         ma.use_fo_hooks = 0;
2348                         strcpy(ma.chosen_part, "1");
2349                         ma.chosen_pref = 9999;
2350                         mime_parser(mptr, NULL,
2351                                 *choose_preferred, *fixed_output_pre,
2352                                 *fixed_output_post, (void *)&ma, 0);
2353                         mime_parser(mptr, NULL,
2354                                 *output_preferred, NULL, NULL, (void *)&ma, CC->msg4_dont_decode);
2355                 }
2356                 else {
2357                         ma.use_fo_hooks = 1;
2358                         mime_parser(mptr, NULL,
2359                                 *fixed_output, *fixed_output_pre,
2360                                 *fixed_output_post, (void *)&ma, 0);
2361                 }
2362
2363         }
2364
2365 DONE:   /* now we're done */
2366         if (do_proto) cprintf("000\n");
2367         return(om_ok);
2368 }
2369
2370
2371 /*
2372  * display a message (mode 0 - Citadel proprietary)
2373  */
2374 void cmd_msg0(char *cmdbuf)
2375 {
2376         long msgid;
2377         int headers_only = HEADERS_ALL;
2378
2379         msgid = extract_long(cmdbuf, 0);
2380         headers_only = extract_int(cmdbuf, 1);
2381
2382         CtdlOutputMsg(msgid, MT_CITADEL, headers_only, 1, 0, NULL, 0);
2383         return;
2384 }
2385
2386
2387 /*
2388  * display a message (mode 2 - RFC822)
2389  */
2390 void cmd_msg2(char *cmdbuf)
2391 {
2392         long msgid;
2393         int headers_only = HEADERS_ALL;
2394
2395         msgid = extract_long(cmdbuf, 0);
2396         headers_only = extract_int(cmdbuf, 1);
2397
2398         CtdlOutputMsg(msgid, MT_RFC822, headers_only, 1, 1, NULL, 0);
2399 }
2400
2401
2402
2403 /* 
2404  * display a message (mode 3 - IGnet raw format - internal programs only)
2405  */
2406 void cmd_msg3(char *cmdbuf)
2407 {
2408         long msgnum;
2409         struct CtdlMessage *msg = NULL;
2410         struct ser_ret smr;
2411
2412         if (CC->internal_pgm == 0) {
2413                 cprintf("%d This command is for internal programs only.\n",
2414                         ERROR + HIGHER_ACCESS_REQUIRED);
2415                 return;
2416         }
2417
2418         msgnum = extract_long(cmdbuf, 0);
2419         msg = CtdlFetchMessage(msgnum, 1);
2420         if (msg == NULL) {
2421                 cprintf("%d Message %ld not found.\n", 
2422                         ERROR + MESSAGE_NOT_FOUND, msgnum);
2423                 return;
2424         }
2425
2426         serialize_message(&smr, msg);
2427         CtdlFreeMessage(msg);
2428
2429         if (smr.len == 0) {
2430                 cprintf("%d Unable to serialize message\n",
2431                         ERROR + INTERNAL_ERROR);
2432                 return;
2433         }
2434
2435         cprintf("%d %ld\n", BINARY_FOLLOWS, (long)smr.len);
2436         client_write((char *)smr.ser, (int)smr.len);
2437         free(smr.ser);
2438 }
2439
2440
2441
2442 /* 
2443  * Display a message using MIME content types
2444  */
2445 void cmd_msg4(char *cmdbuf)
2446 {
2447         long msgid;
2448         char section[64];
2449
2450         msgid = extract_long(cmdbuf, 0);
2451         extract_token(section, cmdbuf, 1, '|', sizeof section);
2452         CtdlOutputMsg(msgid, MT_MIME, 0, 1, 0, (section[0] ? section : NULL) , 0);
2453 }
2454
2455
2456
2457 /* 
2458  * Client tells us its preferred message format(s)
2459  */
2460 void cmd_msgp(char *cmdbuf)
2461 {
2462         if (!strcasecmp(cmdbuf, "dont_decode")) {
2463                 CC->msg4_dont_decode = 1;
2464                 cprintf("%d MSG4 will not pre-decode messages.\n", CIT_OK);
2465         }
2466         else {
2467                 safestrncpy(CC->preferred_formats, cmdbuf, sizeof(CC->preferred_formats));
2468                 cprintf("%d Preferred MIME formats have been set.\n", CIT_OK);
2469         }
2470 }
2471
2472
2473 /*
2474  * Open a component of a MIME message as a download file 
2475  */
2476 void cmd_opna(char *cmdbuf)
2477 {
2478         long msgid;
2479         char desired_section[128];
2480
2481         msgid = extract_long(cmdbuf, 0);
2482         extract_token(desired_section, cmdbuf, 1, '|', sizeof desired_section);
2483         safestrncpy(CC->download_desired_section, desired_section,
2484                 sizeof CC->download_desired_section);
2485         CtdlOutputMsg(msgid, MT_DOWNLOAD, 0, 1, 1, NULL, 0);
2486 }                       
2487
2488
2489 /*
2490  * Open a component of a MIME message and transmit it all at once
2491  */
2492 void cmd_dlat(char *cmdbuf)
2493 {
2494         long msgid;
2495         char desired_section[128];
2496
2497         msgid = extract_long(cmdbuf, 0);
2498         extract_token(desired_section, cmdbuf, 1, '|', sizeof desired_section);
2499         safestrncpy(CC->download_desired_section, desired_section,
2500                 sizeof CC->download_desired_section);
2501         CtdlOutputMsg(msgid, MT_SPEW_SECTION, 0, 1, 1, NULL, 0);
2502 }                       
2503
2504
2505 /*
2506  * Save one or more message pointers into a specified room
2507  * (Returns 0 for success, nonzero for failure)
2508  * roomname may be NULL to use the current room
2509  *
2510  * Note that the 'supplied_msg' field may be set to NULL, in which case
2511  * the message will be fetched from disk, by number, if we need to perform
2512  * replication checks.  This adds an additional database read, so if the
2513  * caller already has the message in memory then it should be supplied.  (Obviously
2514  * this mode of operation only works if we're saving a single message.)
2515  */
2516 int CtdlSaveMsgPointersInRoom(char *roomname, long newmsgidlist[], int num_newmsgs,
2517                         int do_repl_check, struct CtdlMessage *supplied_msg, int suppress_refcount_adj
2518 ) {
2519         int i, j, unique;
2520         char hold_rm[ROOMNAMELEN];
2521         struct cdbdata *cdbfr;
2522         int num_msgs;
2523         long *msglist;
2524         long highest_msg = 0L;
2525
2526         long msgid = 0;
2527         struct CtdlMessage *msg = NULL;
2528
2529         long *msgs_to_be_merged = NULL;
2530         int num_msgs_to_be_merged = 0;
2531
2532         CtdlLogPrintf(CTDL_DEBUG,
2533                 "CtdlSaveMsgPointersInRoom(room=%s, num_msgs=%d, repl=%d, suppress_rca=%d)\n",
2534                 roomname, num_newmsgs, do_repl_check, suppress_refcount_adj
2535         );
2536
2537         strcpy(hold_rm, CC->room.QRname);
2538
2539         /* Sanity checks */
2540         if (newmsgidlist == NULL) return(ERROR + INTERNAL_ERROR);
2541         if (num_newmsgs < 1) return(ERROR + INTERNAL_ERROR);
2542         if (num_newmsgs > 1) supplied_msg = NULL;
2543
2544         /* Now the regular stuff */
2545         if (CtdlGetRoomLock(&CC->room,
2546            ((roomname != NULL) ? roomname : CC->room.QRname) )
2547            != 0) {
2548                 CtdlLogPrintf(CTDL_ERR, "No such room <%s>\n", roomname);
2549                 return(ERROR + ROOM_NOT_FOUND);
2550         }
2551
2552
2553         msgs_to_be_merged = malloc(sizeof(long) * num_newmsgs);
2554         num_msgs_to_be_merged = 0;
2555
2556
2557         cdbfr = cdb_fetch(CDB_MSGLISTS, &CC->room.QRnumber, sizeof(long));
2558         if (cdbfr == NULL) {
2559                 msglist = NULL;
2560                 num_msgs = 0;
2561         } else {
2562                 msglist = (long *) cdbfr->ptr;
2563                 cdbfr->ptr = NULL;      /* CtdlSaveMsgPointerInRoom() now owns this memory */
2564                 num_msgs = cdbfr->len / sizeof(long);
2565                 cdb_free(cdbfr);
2566         }
2567
2568
2569         /* Create a list of msgid's which were supplied by the caller, but do
2570          * not already exist in the target room.  It is absolutely taboo to
2571          * have more than one reference to the same message in a room.
2572          */
2573         for (i=0; i<num_newmsgs; ++i) {
2574                 unique = 1;
2575                 if (num_msgs > 0) for (j=0; j<num_msgs; ++j) {
2576                         if (msglist[j] == newmsgidlist[i]) {
2577                                 unique = 0;
2578                         }
2579                 }
2580                 if (unique) {
2581                         msgs_to_be_merged[num_msgs_to_be_merged++] = newmsgidlist[i];
2582                 }
2583         }
2584
2585         CtdlLogPrintf(9, "%d unique messages to be merged\n", num_msgs_to_be_merged);
2586
2587         /*
2588          * Now merge the new messages
2589          */
2590         msglist = realloc(msglist, (sizeof(long) * (num_msgs + num_msgs_to_be_merged)) );
2591         if (msglist == NULL) {
2592                 CtdlLogPrintf(CTDL_ALERT, "ERROR: can't realloc message list!\n");
2593         }
2594         memcpy(&msglist[num_msgs], msgs_to_be_merged, (sizeof(long) * num_msgs_to_be_merged) );
2595         num_msgs += num_msgs_to_be_merged;
2596
2597         /* Sort the message list, so all the msgid's are in order */
2598         num_msgs = sort_msglist(msglist, num_msgs);
2599
2600         /* Determine the highest message number */
2601         highest_msg = msglist[num_msgs - 1];
2602
2603         /* Write it back to disk. */
2604         cdb_store(CDB_MSGLISTS, &CC->room.QRnumber, (int)sizeof(long),
2605                   msglist, (int)(num_msgs * sizeof(long)));
2606
2607         /* Free up the memory we used. */
2608         free(msglist);
2609
2610         /* Update the highest-message pointer and unlock the room. */
2611         CC->room.QRhighest = highest_msg;
2612         CtdlPutRoomLock(&CC->room);
2613
2614         /* Perform replication checks if necessary */
2615         if ( (DoesThisRoomNeedEuidIndexing(&CC->room)) && (do_repl_check) ) {
2616                 CtdlLogPrintf(CTDL_DEBUG, "CtdlSaveMsgPointerInRoom() doing repl checks\n");
2617
2618                 for (i=0; i<num_msgs_to_be_merged; ++i) {
2619                         msgid = msgs_to_be_merged[i];
2620         
2621                         if (supplied_msg != NULL) {
2622                                 msg = supplied_msg;
2623                         }
2624                         else {
2625                                 msg = CtdlFetchMessage(msgid, 0);
2626                         }
2627         
2628                         if (msg != NULL) {
2629                                 ReplicationChecks(msg);
2630                 
2631                                 /* If the message has an Exclusive ID, index that... */
2632                                 if (msg->cm_fields['E'] != NULL) {
2633                                         index_message_by_euid(msg->cm_fields['E'], &CC->room, msgid);
2634                                 }
2635
2636                                 /* Free up the memory we may have allocated */
2637                                 if (msg != supplied_msg) {
2638                                         CtdlFreeMessage(msg);
2639                                 }
2640                         }
2641         
2642                 }
2643         }
2644
2645         else {
2646                 CtdlLogPrintf(CTDL_DEBUG, "CtdlSaveMsgPointerInRoom() skips repl checks\n");
2647         }
2648
2649         /* Submit this room for processing by hooks */
2650         PerformRoomHooks(&CC->room);
2651
2652         /* Go back to the room we were in before we wandered here... */
2653         CtdlGetRoom(&CC->room, hold_rm);
2654
2655         /* Bump the reference count for all messages which were merged */
2656         if (!suppress_refcount_adj) {
2657                 for (i=0; i<num_msgs_to_be_merged; ++i) {
2658                         AdjRefCount(msgs_to_be_merged[i], +1);
2659                 }
2660         }
2661
2662         /* Free up memory... */
2663         if (msgs_to_be_merged != NULL) {
2664                 free(msgs_to_be_merged);
2665         }
2666
2667         /* Return success. */
2668         return (0);
2669 }
2670
2671
2672 /*
2673  * This is the same as CtdlSaveMsgPointersInRoom() but it only accepts
2674  * a single message.
2675  */
2676 int CtdlSaveMsgPointerInRoom(char *roomname, long msgid,
2677                         int do_repl_check, struct CtdlMessage *supplied_msg)
2678 {
2679         return CtdlSaveMsgPointersInRoom(roomname, &msgid, 1, do_repl_check, supplied_msg, 0);
2680 }
2681
2682
2683
2684
2685 /*
2686  * Message base operation to save a new message to the message store
2687  * (returns new message number)
2688  *
2689  * This is the back end for CtdlSubmitMsg() and should not be directly
2690  * called by server-side modules.
2691  *
2692  */
2693 long send_message(struct CtdlMessage *msg) {
2694         long newmsgid;
2695         long retval;
2696         char msgidbuf[256];
2697         struct ser_ret smr;
2698         int is_bigmsg = 0;
2699         char *holdM = NULL;
2700
2701         /* Get a new message number */
2702         newmsgid = get_new_message_number();
2703         snprintf(msgidbuf, sizeof msgidbuf, "%010ld@%s", newmsgid, config.c_fqdn);
2704
2705         /* Generate an ID if we don't have one already */
2706         if (msg->cm_fields['I']==NULL) {
2707                 msg->cm_fields['I'] = strdup(msgidbuf);
2708         }
2709
2710         /* If the message is big, set its body aside for storage elsewhere */
2711         if (msg->cm_fields['M'] != NULL) {
2712                 if (strlen(msg->cm_fields['M']) > BIGMSG) {
2713                         is_bigmsg = 1;
2714                         holdM = msg->cm_fields['M'];
2715                         msg->cm_fields['M'] = NULL;
2716                 }
2717         }
2718
2719         /* Serialize our data structure for storage in the database */  
2720         serialize_message(&smr, msg);
2721
2722         if (is_bigmsg) {
2723                 msg->cm_fields['M'] = holdM;
2724         }
2725
2726         if (smr.len == 0) {
2727                 cprintf("%d Unable to serialize message\n",
2728                         ERROR + INTERNAL_ERROR);
2729                 return (-1L);
2730         }
2731
2732         /* Write our little bundle of joy into the message base */
2733         if (cdb_store(CDB_MSGMAIN, &newmsgid, (int)sizeof(long),
2734                       smr.ser, smr.len) < 0) {
2735                 CtdlLogPrintf(CTDL_ERR, "Can't store message\n");
2736                 retval = 0L;
2737         } else {
2738                 if (is_bigmsg) {
2739                         cdb_store(CDB_BIGMSGS,
2740                                 &newmsgid,
2741                                 (int)sizeof(long),
2742                                 holdM,
2743                                 (strlen(holdM) + 1)
2744                         );
2745                 }
2746                 retval = newmsgid;
2747         }
2748
2749         /* Free the memory we used for the serialized message */
2750         free(smr.ser);
2751
2752         /* Return the *local* message ID to the caller
2753          * (even if we're storing an incoming network message)
2754          */
2755         return(retval);
2756 }
2757
2758
2759
2760 /*
2761  * Serialize a struct CtdlMessage into the format used on disk and network.
2762  * 
2763  * This function loads up a "struct ser_ret" (defined in server.h) which
2764  * contains the length of the serialized message and a pointer to the
2765  * serialized message in memory.  THE LATTER MUST BE FREED BY THE CALLER.
2766  */
2767 void serialize_message(struct ser_ret *ret,             /* return values */
2768                         struct CtdlMessage *msg)        /* unserialized msg */
2769 {
2770         size_t wlen, fieldlen;
2771         int i;
2772         static char *forder = FORDER;
2773
2774         /*
2775          * Check for valid message format
2776          */
2777         if (is_valid_message(msg) == 0) {
2778                 CtdlLogPrintf(CTDL_ERR, "serialize_message() aborting due to invalid message\n");
2779                 ret->len = 0;
2780                 ret->ser = NULL;
2781                 return;
2782         }
2783
2784         ret->len = 3;
2785         for (i=0; i<26; ++i) if (msg->cm_fields[(int)forder[i]] != NULL)
2786                 ret->len = ret->len +
2787                         strlen(msg->cm_fields[(int)forder[i]]) + 2;
2788
2789         ret->ser = malloc(ret->len);
2790         if (ret->ser == NULL) {
2791                 CtdlLogPrintf(CTDL_ERR, "serialize_message() malloc(%ld) failed: %s\n",
2792                         (long)ret->len, strerror(errno));
2793                 ret->len = 0;
2794                 ret->ser = NULL;
2795                 return;
2796         }
2797
2798         ret->ser[0] = 0xFF;
2799         ret->ser[1] = msg->cm_anon_type;
2800         ret->ser[2] = msg->cm_format_type;
2801         wlen = 3;
2802
2803         for (i=0; i<26; ++i) if (msg->cm_fields[(int)forder[i]] != NULL) {
2804                 fieldlen = strlen(msg->cm_fields[(int)forder[i]]);
2805                 ret->ser[wlen++] = (char)forder[i];
2806                 safestrncpy((char *)&ret->ser[wlen], msg->cm_fields[(int)forder[i]], fieldlen+1);
2807                 wlen = wlen + fieldlen + 1;
2808         }
2809         if (ret->len != wlen) CtdlLogPrintf(CTDL_ERR, "ERROR: len=%ld wlen=%ld\n",
2810                 (long)ret->len, (long)wlen);
2811
2812         return;
2813 }
2814
2815
2816 /*
2817  * Serialize a struct CtdlMessage into the format used on disk and network.
2818  * 
2819  * This function loads up a "struct ser_ret" (defined in server.h) which
2820  * contains the length of the serialized message and a pointer to the
2821  * serialized message in memory.  THE LATTER MUST BE FREED BY THE CALLER.
2822  */
2823 void dump_message(struct CtdlMessage *msg,      /* unserialized msg */
2824                   long Siz)                     /* how many chars ? */
2825 {
2826         size_t wlen;
2827         int i;
2828         static char *forder = FORDER;
2829         char *buf;
2830
2831         /*
2832          * Check for valid message format
2833          */
2834         if (is_valid_message(msg) == 0) {
2835                 CtdlLogPrintf(CTDL_ERR, "dump_message() aborting due to invalid message\n");
2836                 return;
2837         }
2838
2839         buf = (char*) malloc (Siz + 1);
2840
2841         wlen = 3;
2842         
2843         for (i=0; i<26; ++i) if (msg->cm_fields[(int)forder[i]] != NULL) {
2844                         snprintf (buf, Siz, " msg[%c] = %s ...\n", (char) forder[i], 
2845                                    msg->cm_fields[(int)forder[i]]);
2846                         client_write (buf, strlen(buf));
2847                 }
2848
2849         return;
2850 }
2851
2852
2853
2854 /*
2855  * Check to see if any messages already exist in the current room which
2856  * carry the same Exclusive ID as this one.  If any are found, delete them.
2857  */
2858 void ReplicationChecks(struct CtdlMessage *msg) {
2859         long old_msgnum = (-1L);
2860
2861         if (DoesThisRoomNeedEuidIndexing(&CC->room) == 0) return;
2862
2863         CtdlLogPrintf(CTDL_DEBUG, "Performing replication checks in <%s>\n",
2864                 CC->room.QRname);
2865
2866         /* No exclusive id?  Don't do anything. */
2867         if (msg == NULL) return;
2868         if (msg->cm_fields['E'] == NULL) return;
2869         if (IsEmptyStr(msg->cm_fields['E'])) return;
2870         /*CtdlLogPrintf(CTDL_DEBUG, "Exclusive ID: <%s> for room <%s>\n",
2871                 msg->cm_fields['E'], CC->room.QRname);*/
2872
2873         old_msgnum = CtdlLocateMessageByEuid(msg->cm_fields['E'], &CC->room);
2874         if (old_msgnum > 0L) {
2875                 CtdlLogPrintf(CTDL_DEBUG, "ReplicationChecks() replacing message %ld\n", old_msgnum);
2876                 CtdlDeleteMessages(CC->room.QRname, &old_msgnum, 1, "");
2877         }
2878 }
2879
2880
2881
2882 /*
2883  * Save a message to disk and submit it into the delivery system.
2884  */
2885 long CtdlSubmitMsg(struct CtdlMessage *msg,     /* message to save */
2886                    struct recptypes *recps,     /* recipients (if mail) */
2887                    char *force,                 /* force a particular room? */
2888                    int flags                    /* should the message be exported clean? */
2889 ) {
2890         char submit_filename[128];
2891         char generated_timestamp[32];
2892         char hold_rm[ROOMNAMELEN];
2893         char actual_rm[ROOMNAMELEN];
2894         char force_room[ROOMNAMELEN];
2895         char content_type[SIZ];                 /* We have to learn this */
2896         char recipient[SIZ];
2897         long newmsgid;
2898         const char *mptr = NULL;
2899         struct ctdluser userbuf;
2900         int a, i;
2901         struct MetaData smi;
2902         FILE *network_fp = NULL;
2903         static int seqnum = 1;
2904         struct CtdlMessage *imsg = NULL;
2905         char *instr = NULL;
2906         size_t instr_alloc = 0;
2907         struct ser_ret smr;
2908         char *hold_R, *hold_D;
2909         char *collected_addresses = NULL;
2910         struct addresses_to_be_filed *aptr = NULL;
2911         StrBuf *saved_rfc822_version = NULL;
2912         int qualified_for_journaling = 0;
2913         CitContext *CCC = MyContext();
2914         char bounce_to[1024] = "";
2915         size_t tmp = 0;
2916         int rv = 0;
2917
2918         CtdlLogPrintf(CTDL_DEBUG, "CtdlSubmitMsg() called\n");
2919         if (is_valid_message(msg) == 0) return(-1);     /* self check */
2920
2921         /* If this message has no timestamp, we take the liberty of
2922          * giving it one, right now.
2923          */
2924         if (msg->cm_fields['T'] == NULL) {
2925                 snprintf(generated_timestamp, sizeof generated_timestamp, "%ld", (long)time(NULL));
2926                 msg->cm_fields['T'] = strdup(generated_timestamp);
2927         }
2928
2929         /* If this message has no path, we generate one.
2930          */
2931         if (msg->cm_fields['P'] == NULL) {
2932                 if (msg->cm_fields['A'] != NULL) {
2933                         msg->cm_fields['P'] = strdup(msg->cm_fields['A']);
2934                         for (a=0; !IsEmptyStr(&msg->cm_fields['P'][a]); ++a) {
2935                                 if (isspace(msg->cm_fields['P'][a])) {
2936                                         msg->cm_fields['P'][a] = ' ';
2937                                 }
2938                         }
2939                 }
2940                 else {
2941                         msg->cm_fields['P'] = strdup("unknown");
2942                 }
2943         }
2944
2945         if (force == NULL) {
2946                 strcpy(force_room, "");
2947         }
2948         else {
2949                 strcpy(force_room, force);
2950         }
2951
2952         /* Learn about what's inside, because it's what's inside that counts */
2953         if (msg->cm_fields['M'] == NULL) {
2954                 CtdlLogPrintf(CTDL_ERR, "ERROR: attempt to save message with NULL body\n");
2955                 return(-2);
2956         }
2957
2958         switch (msg->cm_format_type) {
2959         case 0:
2960                 strcpy(content_type, "text/x-citadel-variformat");
2961                 break;
2962         case 1:
2963                 strcpy(content_type, "text/plain");
2964                 break;
2965         case 4:
2966                 strcpy(content_type, "text/plain");
2967                 mptr = bmstrcasestr(msg->cm_fields['M'], "Content-type:");
2968                 if (mptr != NULL) {
2969                         char *aptr;
2970                         safestrncpy(content_type, &mptr[13], sizeof content_type);
2971                         striplt(content_type);
2972                         aptr = content_type;
2973                         while (!IsEmptyStr(aptr)) {
2974                                 if ((*aptr == ';')
2975                                     || (*aptr == ' ')
2976                                     || (*aptr == 13)
2977                                     || (*aptr == 10)) {
2978                                         *aptr = 0;
2979                                 }
2980                                 else aptr++;
2981                         }
2982                 }
2983         }
2984
2985         /* Goto the correct room */
2986         CtdlLogPrintf(CTDL_DEBUG, "Selected room %s\n", (recps) ? CCC->room.QRname : SENTITEMS);
2987         strcpy(hold_rm, CCC->room.QRname);
2988         strcpy(actual_rm, CCC->room.QRname);
2989         if (recps != NULL) {
2990                 strcpy(actual_rm, SENTITEMS);
2991         }
2992
2993         /* If the user is a twit, move to the twit room for posting */
2994         if (TWITDETECT) {
2995                 if (CCC->user.axlevel == AxProbU) {
2996                         strcpy(hold_rm, actual_rm);
2997                         strcpy(actual_rm, config.c_twitroom);
2998                         CtdlLogPrintf(CTDL_DEBUG, "Diverting to twit room\n");
2999                 }
3000         }
3001
3002         /* ...or if this message is destined for Aide> then go there. */
3003         if (!IsEmptyStr(force_room)) {
3004                 strcpy(actual_rm, force_room);
3005         }
3006
3007         CtdlLogPrintf(CTDL_DEBUG, "Final selection: %s\n", actual_rm);
3008         if (strcasecmp(actual_rm, CCC->room.QRname)) {
3009                 /* CtdlGetRoom(&CCC->room, actual_rm); */
3010                 CtdlUserGoto(actual_rm, 0, 1, NULL, NULL);
3011         }
3012
3013         /*
3014          * If this message has no O (room) field, generate one.
3015          */
3016         if (msg->cm_fields['O'] == NULL) {
3017                 msg->cm_fields['O'] = strdup(CCC->room.QRname);
3018         }
3019
3020         /* Perform "before save" hooks (aborting if any return nonzero) */
3021         CtdlLogPrintf(CTDL_DEBUG, "Performing before-save hooks\n");
3022         if (PerformMessageHooks(msg, EVT_BEFORESAVE) > 0) return(-3);
3023
3024         /*
3025          * If this message has an Exclusive ID, and the room is replication
3026          * checking enabled, then do replication checks.
3027          */
3028         if (DoesThisRoomNeedEuidIndexing(&CCC->room)) {
3029                 ReplicationChecks(msg);
3030         }
3031
3032         /* Save it to disk */
3033         CtdlLogPrintf(CTDL_DEBUG, "Saving to disk\n");
3034         newmsgid = send_message(msg);
3035         if (newmsgid <= 0L) return(-5);
3036
3037         /* Write a supplemental message info record.  This doesn't have to
3038          * be a critical section because nobody else knows about this message
3039          * yet.
3040          */
3041         CtdlLogPrintf(CTDL_DEBUG, "Creating MetaData record\n");
3042         memset(&smi, 0, sizeof(struct MetaData));
3043         smi.meta_msgnum = newmsgid;
3044         smi.meta_refcount = 0;
3045         safestrncpy(smi.meta_content_type, content_type,
3046                         sizeof smi.meta_content_type);
3047
3048         /*
3049          * Measure how big this message will be when rendered as RFC822.
3050          * We do this for two reasons:
3051          * 1. We need the RFC822 length for the new metadata record, so the
3052          *    POP and IMAP services don't have to calculate message lengths
3053          *    while the user is waiting (multiplied by potentially hundreds
3054          *    or thousands of messages).
3055          * 2. If journaling is enabled, we will need an RFC822 version of the
3056          *    message to attach to the journalized copy.
3057          */
3058         if (CCC->redirect_buffer != NULL) {
3059                 CtdlLogPrintf(CTDL_ALERT, "CCC->redirect_buffer is not NULL during message submission!\n");
3060                 abort();
3061         }
3062         CCC->redirect_buffer = NewStrBufPlain(NULL, SIZ);
3063         CtdlOutputPreLoadedMsg(msg, MT_RFC822, HEADERS_ALL, 0, 1, QP_EADDR);
3064         smi.meta_rfc822_length = StrLength(CCC->redirect_buffer);
3065         saved_rfc822_version = CCC->redirect_buffer;
3066         CCC->redirect_buffer = NULL;
3067
3068         PutMetaData(&smi);
3069
3070         /* Now figure out where to store the pointers */
3071         CtdlLogPrintf(CTDL_DEBUG, "Storing pointers\n");
3072
3073         /* If this is being done by the networker delivering a private
3074          * message, we want to BYPASS saving the sender's copy (because there
3075          * is no local sender; it would otherwise go to the Trashcan).
3076          */
3077         if ((!CCC->internal_pgm) || (recps == NULL)) {
3078                 if (CtdlSaveMsgPointerInRoom(actual_rm, newmsgid, 1, msg) != 0) {
3079                         CtdlLogPrintf(CTDL_ERR, "ERROR saving message pointer!\n");
3080                         CtdlSaveMsgPointerInRoom(config.c_aideroom, newmsgid, 0, msg);
3081                 }
3082         }
3083
3084         /* For internet mail, drop a copy in the outbound queue room */
3085         if ((recps != NULL) && (recps->num_internet > 0)) {
3086                 CtdlSaveMsgPointerInRoom(SMTP_SPOOLOUT_ROOM, newmsgid, 0, msg);
3087         }
3088
3089         /* If other rooms are specified, drop them there too. */
3090         if ((recps != NULL) && (recps->num_room > 0))
3091           for (i=0; i<num_tokens(recps->recp_room, '|'); ++i) {
3092                 extract_token(recipient, recps->recp_room, i,
3093                                         '|', sizeof recipient);
3094                 CtdlLogPrintf(CTDL_DEBUG, "Delivering to room <%s>\n", recipient);
3095                 CtdlSaveMsgPointerInRoom(recipient, newmsgid, 0, msg);
3096         }
3097
3098         /* Bump this user's messages posted counter. */
3099         CtdlLogPrintf(CTDL_DEBUG, "Updating user\n");
3100         CtdlGetUserLock(&CCC->user, CCC->curr_user);
3101         CCC->user.posted = CCC->user.posted + 1;
3102         CtdlPutUserLock(&CCC->user);
3103
3104         /* Decide where bounces need to be delivered */
3105         if ((recps != NULL) && (recps->bounce_to != NULL)) {
3106                 safestrncpy(bounce_to, recps->bounce_to, sizeof bounce_to);
3107         }
3108         else if (CCC->logged_in) {
3109                 snprintf(bounce_to, sizeof bounce_to, "%s@%s", CCC->user.fullname, config.c_nodename);
3110         }
3111         else {
3112                 snprintf(bounce_to, sizeof bounce_to, "%s@%s", msg->cm_fields['A'], msg->cm_fields['N']);
3113         }
3114
3115         /* If this is private, local mail, make a copy in the
3116          * recipient's mailbox and bump the reference count.
3117          */
3118         if ((recps != NULL) && (recps->num_local > 0))
3119           for (i=0; i<num_tokens(recps->recp_local, '|'); ++i) {
3120                 extract_token(recipient, recps->recp_local, i,
3121                                         '|', sizeof recipient);
3122                 CtdlLogPrintf(CTDL_DEBUG, "Delivering private local mail to <%s>\n",
3123                         recipient);
3124                 if (CtdlGetUser(&userbuf, recipient) == 0) {
3125                         // Add a flag so the Funambol module knows its mail
3126                         msg->cm_fields['W'] = strdup(recipient);
3127                         CtdlMailboxName(actual_rm, sizeof actual_rm, &userbuf, MAILROOM);
3128                         CtdlSaveMsgPointerInRoom(actual_rm, newmsgid, 0, msg);
3129                         CtdlBumpNewMailCounter(userbuf.usernum);
3130                         if (!IsEmptyStr(config.c_funambol_host) || !IsEmptyStr(config.c_pager_program)) {
3131                         /* Generate a instruction message for the Funambol notification
3132                          * server, in the same style as the SMTP queue
3133                          */
3134                            instr_alloc = 1024;
3135                            instr = malloc(instr_alloc);
3136                            snprintf(instr, instr_alloc,
3137                         "Content-type: %s\n\nmsgid|%ld\nsubmitted|%ld\n"
3138                         "bounceto|%s\n",
3139                         SPOOLMIME, newmsgid, (long)time(NULL),
3140                         bounce_to
3141                         );
3142
3143                            imsg = malloc(sizeof(struct CtdlMessage));
3144                            memset(imsg, 0, sizeof(struct CtdlMessage));
3145                            imsg->cm_magic = CTDLMESSAGE_MAGIC;
3146                            imsg->cm_anon_type = MES_NORMAL;
3147                            imsg->cm_format_type = FMT_RFC822;
3148                            imsg->cm_fields['A'] = strdup("Citadel");
3149                            imsg->cm_fields['J'] = strdup("do not journal");
3150                            imsg->cm_fields['M'] = instr;        /* imsg owns this memory now */
3151                            imsg->cm_fields['W'] = strdup(recipient);
3152                            CtdlSubmitMsg(imsg, NULL, FNBL_QUEUE_ROOM, 0);
3153                            CtdlFreeMessage(imsg);
3154                         }
3155                 }
3156                 else {
3157                         CtdlLogPrintf(CTDL_DEBUG, "No user <%s>\n", recipient);
3158                         CtdlSaveMsgPointerInRoom(config.c_aideroom,
3159                                 newmsgid, 0, msg);
3160                 }
3161         }
3162
3163         /* Perform "after save" hooks */
3164         CtdlLogPrintf(CTDL_DEBUG, "Performing after-save hooks\n");
3165         PerformMessageHooks(msg, EVT_AFTERSAVE);
3166
3167         /* For IGnet mail, we have to save a new copy into the spooler for
3168          * each recipient, with the R and D fields set to the recipient and
3169          * destination-node.  This has two ugly side effects: all other
3170          * recipients end up being unlisted in this recipient's copy of the
3171          * message, and it has to deliver multiple messages to the same
3172          * node.  We'll revisit this again in a year or so when everyone has
3173          * a network spool receiver that can handle the new style messages.
3174          */
3175         if ((recps != NULL) && (recps->num_ignet > 0))
3176           for (i=0; i<num_tokens(recps->recp_ignet, '|'); ++i) {
3177                 extract_token(recipient, recps->recp_ignet, i,
3178                                 '|', sizeof recipient);
3179
3180                 hold_R = msg->cm_fields['R'];
3181                 hold_D = msg->cm_fields['D'];
3182                 msg->cm_fields['R'] = malloc(SIZ);
3183                 msg->cm_fields['D'] = malloc(128);
3184                 extract_token(msg->cm_fields['R'], recipient, 0, '@', SIZ);
3185                 extract_token(msg->cm_fields['D'], recipient, 1, '@', 128);
3186                 
3187                 serialize_message(&smr, msg);
3188                 if (smr.len > 0) {
3189                         snprintf(submit_filename, sizeof submit_filename,
3190                                          "%s/netmail.%04lx.%04x.%04x",
3191                                          ctdl_netin_dir,
3192                                          (long) getpid(), CCC->cs_pid, ++seqnum);
3193                         network_fp = fopen(submit_filename, "wb+");
3194                         if (network_fp != NULL) {
3195                                 rv = fwrite(smr.ser, smr.len, 1, network_fp);
3196                                 fclose(network_fp);
3197                         }
3198                         free(smr.ser);
3199                 }
3200
3201                 free(msg->cm_fields['R']);
3202                 free(msg->cm_fields['D']);
3203                 msg->cm_fields['R'] = hold_R;
3204                 msg->cm_fields['D'] = hold_D;
3205         }
3206
3207         /* Go back to the room we started from */
3208         CtdlLogPrintf(CTDL_DEBUG, "Returning to original room %s\n", hold_rm);
3209         if (strcasecmp(hold_rm, CCC->room.QRname))
3210                 CtdlUserGoto(hold_rm, 0, 1, NULL, NULL);
3211
3212         /* For internet mail, generate delivery instructions.
3213          * Yes, this is recursive.  Deal with it.  Infinite recursion does
3214          * not happen because the delivery instructions message does not
3215          * contain a recipient.
3216          */
3217         if ((recps != NULL) && (recps->num_internet > 0)) {
3218                 CtdlLogPrintf(CTDL_DEBUG, "Generating delivery instructions\n");
3219                 instr_alloc = 1024;
3220                 instr = malloc(instr_alloc);
3221                 snprintf(instr, instr_alloc,
3222                         "Content-type: %s\n\nmsgid|%ld\nsubmitted|%ld\n"
3223                         "bounceto|%s\n",
3224                         SPOOLMIME, newmsgid, (long)time(NULL),
3225                         bounce_to
3226                 );
3227
3228                 if (recps->envelope_from != NULL) {
3229                         tmp = strlen(instr);
3230                         snprintf(&instr[tmp], instr_alloc-tmp, "envelope_from|%s\n", recps->envelope_from);
3231                 }
3232
3233                 for (i=0; i<num_tokens(recps->recp_internet, '|'); ++i) {
3234                         tmp = strlen(instr);
3235                         extract_token(recipient, recps->recp_internet, i, '|', sizeof recipient);
3236                         if ((tmp + strlen(recipient) + 32) > instr_alloc) {
3237                                 instr_alloc = instr_alloc * 2;
3238                                 instr = realloc(instr, instr_alloc);
3239                         }
3240                         snprintf(&instr[tmp], instr_alloc - tmp, "remote|%s|0||\n", recipient);
3241                 }
3242
3243                 imsg = malloc(sizeof(struct CtdlMessage));
3244                 memset(imsg, 0, sizeof(struct CtdlMessage));
3245                 imsg->cm_magic = CTDLMESSAGE_MAGIC;
3246                 imsg->cm_anon_type = MES_NORMAL;
3247                 imsg->cm_format_type = FMT_RFC822;
3248                 imsg->cm_fields['A'] = strdup("Citadel");
3249                 imsg->cm_fields['J'] = strdup("do not journal");
3250                 imsg->cm_fields['M'] = instr;   /* imsg owns this memory now */
3251                 CtdlSubmitMsg(imsg, NULL, SMTP_SPOOLOUT_ROOM, QP_EADDR);
3252                 CtdlFreeMessage(imsg);
3253         }
3254
3255         /*
3256          * Any addresses to harvest for someone's address book?
3257          */
3258         if ( (CCC->logged_in) && (recps != NULL) ) {
3259                 collected_addresses = harvest_collected_addresses(msg);
3260         }
3261
3262         if (collected_addresses != NULL) {
3263                 aptr = (struct addresses_to_be_filed *)
3264                         malloc(sizeof(struct addresses_to_be_filed));
3265                 CtdlMailboxName(actual_rm, sizeof actual_rm,
3266                         &CCC->user, USERCONTACTSROOM);
3267                 aptr->roomname = strdup(actual_rm);
3268                 aptr->collected_addresses = collected_addresses;
3269                 begin_critical_section(S_ATBF);
3270                 aptr->next = atbf;
3271                 atbf = aptr;
3272                 end_critical_section(S_ATBF);
3273         }
3274
3275         /*
3276          * Determine whether this message qualifies for journaling.
3277          */
3278         if (msg->cm_fields['J'] != NULL) {
3279                 qualified_for_journaling = 0;
3280         }
3281         else {
3282                 if (recps == NULL) {
3283                         qualified_for_journaling = config.c_journal_pubmsgs;
3284                 }
3285                 else if (recps->num_local + recps->num_ignet + recps->num_internet > 0) {
3286                         qualified_for_journaling = config.c_journal_email;
3287                 }
3288                 else {
3289                         qualified_for_journaling = config.c_journal_pubmsgs;
3290                 }
3291         }
3292
3293         /*
3294          * Do we have to perform journaling?  If so, hand off the saved
3295          * RFC822 version will be handed off to the journaler for background
3296          * submit.  Otherwise, we have to free the memory ourselves.
3297          */
3298         if (saved_rfc822_version != NULL) {
3299                 if (qualified_for_journaling) {
3300                         JournalBackgroundSubmit(msg, saved_rfc822_version, recps);
3301                 }
3302                 else {
3303                         FreeStrBuf(&saved_rfc822_version);
3304                 }
3305         }
3306
3307         /* Done. */
3308         return(newmsgid);
3309 }
3310
3311
3312
3313 void aide_message (char *text, char *subject)
3314 {
3315         quickie_message("Citadel",NULL,NULL,AIDEROOM,text,FMT_CITADEL,subject);
3316 }
3317
3318
3319 /*
3320  * Convenience function for generating small administrative messages.
3321  */
3322 void quickie_message(const char *from, const char *fromaddr, char *to, char *room, const char *text, 
3323                         int format_type, const char *subject)
3324 {
3325         struct CtdlMessage *msg;
3326         struct recptypes *recp = NULL;
3327
3328         msg = malloc(sizeof(struct CtdlMessage));
3329         memset(msg, 0, sizeof(struct CtdlMessage));
3330         msg->cm_magic = CTDLMESSAGE_MAGIC;
3331         msg->cm_anon_type = MES_NORMAL;
3332         msg->cm_format_type = format_type;
3333
3334         if (from != NULL) {
3335                 msg->cm_fields['A'] = strdup(from);
3336         }
3337         else if (fromaddr != NULL) {
3338                 msg->cm_fields['A'] = strdup(fromaddr);
3339                 if (strchr(msg->cm_fields['A'], '@')) {
3340                         *strchr(msg->cm_fields['A'], '@') = 0;
3341                 }
3342         }
3343         else {
3344                 msg->cm_fields['A'] = strdup("Citadel");
3345         }
3346
3347         if (fromaddr != NULL) msg->cm_fields['F'] = strdup(fromaddr);
3348         if (room != NULL) msg->cm_fields['O'] = strdup(room);
3349         msg->cm_fields['N'] = strdup(NODENAME);
3350         if (to != NULL) {
3351                 msg->cm_fields['R'] = strdup(to);
3352                 recp = validate_recipients(to, NULL, 0);
3353         }
3354         if (subject != NULL) {
3355                 msg->cm_fields['U'] = strdup(subject);
3356         }
3357         msg->cm_fields['M'] = strdup(text);
3358
3359         CtdlSubmitMsg(msg, recp, room, 0);
3360         CtdlFreeMessage(msg);
3361         if (recp != NULL) free_recipients(recp);
3362 }
3363
3364
3365
3366 /*
3367  * Back end function used by CtdlMakeMessage() and similar functions
3368  */
3369 StrBuf *CtdlReadMessageBodyBuf(char *terminator,        /* token signalling EOT */
3370                                long tlen,
3371                                size_t maxlen,           /* maximum message length */
3372                                char *exist,             /* if non-null, append to it;
3373                                                            exist is ALWAYS freed  */
3374                                int crlf,                /* CRLF newlines instead of LF */
3375                                int *sock                /* socket handle or 0 for this session's client socket */
3376                         ) 
3377 {
3378         StrBuf *Message;
3379         StrBuf *LineBuf;
3380         int flushing = 0;
3381         int finished = 0;
3382         int dotdot = 0;
3383
3384         LineBuf = NewStrBufPlain(NULL, SIZ);
3385         if (exist == NULL) {
3386                 Message = NewStrBufPlain(NULL, 4 * SIZ);
3387         }
3388         else {
3389                 Message = NewStrBufPlain(exist, -1);
3390                 free(exist);
3391         }
3392
3393         /* Do we need to change leading ".." to "." for SMTP escaping? */
3394         if ((tlen == 1) && (*terminator == '.')) {
3395                 dotdot = 1;
3396         }
3397
3398         /* read in the lines of message text one by one */
3399         do {
3400                 if (sock != NULL) {
3401                         if ((CtdlSockGetLine(sock, LineBuf) < 0) ||
3402                             (*sock == -1))
3403                                 finished = 1;
3404                 }
3405                 else {
3406                         if (CtdlClientGetLine(LineBuf) < 0) finished = 1;
3407                 }
3408                 if ((StrLength(LineBuf) == tlen) && 
3409                     (!strcmp(ChrPtr(LineBuf), terminator)))
3410                         finished = 1;
3411
3412                 if ( (!flushing) && (!finished) ) {
3413                         if (crlf) {
3414                                 StrBufAppendBufPlain(LineBuf, HKEY("\r\n"), 0);
3415                         }
3416                         else {
3417                                 StrBufAppendBufPlain(LineBuf, HKEY("\n"), 0);
3418                         }
3419                         
3420                         /* Unescape SMTP-style input of two dots at the beginning of the line */
3421                         if ((dotdot) &&
3422                             (StrLength(LineBuf) == 2) && 
3423                             (!strcmp(ChrPtr(LineBuf), "..")))
3424                         {
3425                                 StrBufCutLeft(LineBuf, 1);
3426                         }
3427                         
3428                         StrBufAppendBuf(Message, LineBuf, 0);
3429                 }
3430
3431                 /* if we've hit the max msg length, flush the rest */
3432                 if (StrLength(Message) >= maxlen) flushing = 1;
3433
3434         } while (!finished);
3435         FreeStrBuf(&LineBuf);
3436         return Message;
3437 }
3438
3439
3440 /*
3441  * Back end function used by CtdlMakeMessage() and similar functions
3442  */
3443 char *CtdlReadMessageBody(char *terminator,     /* token signalling EOT */
3444                           long tlen,
3445                           size_t maxlen,                /* maximum message length */
3446                           char *exist,          /* if non-null, append to it;
3447                                                    exist is ALWAYS freed  */
3448                           int crlf,             /* CRLF newlines instead of LF */
3449                           int *sock             /* socket handle or 0 for this session's client socket */
3450         ) 
3451 {
3452         StrBuf *Message;
3453
3454         Message = CtdlReadMessageBodyBuf(terminator,
3455                                          tlen,
3456                                          maxlen,
3457                                          exist,
3458                                          crlf,
3459                                          sock);
3460         if (Message == NULL)
3461                 return NULL;
3462         else
3463                 return SmashStrBuf(&Message);
3464 }
3465
3466
3467 /*
3468  * Build a binary message to be saved on disk.
3469  * (NOTE: if you supply 'preformatted_text', the buffer you give it
3470  * will become part of the message.  This means you are no longer
3471  * responsible for managing that memory -- it will be freed along with
3472  * the rest of the fields when CtdlFreeMessage() is called.)
3473  */
3474
3475 struct CtdlMessage *CtdlMakeMessage(
3476         struct ctdluser *author,        /* author's user structure */
3477         char *recipient,                /* NULL if it's not mail */
3478         char *recp_cc,                  /* NULL if it's not mail */
3479         char *room,                     /* room where it's going */
3480         int type,                       /* see MES_ types in header file */
3481         int format_type,                /* variformat, plain text, MIME... */
3482         char *fake_name,                /* who we're masquerading as */
3483         char *my_email,                 /* which of my email addresses to use (empty is ok) */
3484         char *subject,                  /* Subject (optional) */
3485         char *supplied_euid,            /* ...or NULL if this is irrelevant */
3486         char *preformatted_text,        /* ...or NULL to read text from client */
3487         char *references                /* Thread references */
3488 ) {
3489         char dest_node[256];
3490         char buf[1024];
3491         struct CtdlMessage *msg;
3492
3493         msg = malloc(sizeof(struct CtdlMessage));
3494         memset(msg, 0, sizeof(struct CtdlMessage));
3495         msg->cm_magic = CTDLMESSAGE_MAGIC;
3496         msg->cm_anon_type = type;
3497         msg->cm_format_type = format_type;
3498
3499         /* Don't confuse the poor folks if it's not routed mail. */
3500         strcpy(dest_node, "");
3501
3502         if (recipient != NULL) striplt(recipient);
3503         if (recp_cc != NULL) striplt(recp_cc);
3504
3505         /* Path or Return-Path */
3506         if (my_email == NULL) my_email = "";
3507
3508         if (!IsEmptyStr(my_email)) {
3509                 msg->cm_fields['P'] = strdup(my_email);
3510         }
3511         else {
3512                 snprintf(buf, sizeof buf, "%s", author->fullname);
3513                 msg->cm_fields['P'] = strdup(buf);
3514         }
3515         convert_spaces_to_underscores(msg->cm_fields['P']);
3516
3517         snprintf(buf, sizeof buf, "%ld", (long)time(NULL));     /* timestamp */
3518         msg->cm_fields['T'] = strdup(buf);
3519
3520         if ((fake_name != NULL) && (fake_name[0])) {            /* author */
3521                 msg->cm_fields['A'] = strdup(fake_name);
3522         }
3523         else {
3524                 msg->cm_fields['A'] = strdup(author->fullname);
3525         }
3526
3527         if (CC->room.QRflags & QR_MAILBOX) {            /* room */
3528                 msg->cm_fields['O'] = strdup(&CC->room.QRname[11]);
3529         }
3530         else {
3531                 msg->cm_fields['O'] = strdup(CC->room.QRname);
3532         }
3533
3534         msg->cm_fields['N'] = strdup(NODENAME);         /* nodename */
3535         msg->cm_fields['H'] = strdup(HUMANNODE);                /* hnodename */
3536
3537         if ((recipient != NULL) && (recipient[0] != 0)) {
3538                 msg->cm_fields['R'] = strdup(recipient);
3539         }
3540         if ((recp_cc != NULL) && (recp_cc[0] != 0)) {
3541                 msg->cm_fields['Y'] = strdup(recp_cc);
3542         }
3543         if (dest_node[0] != 0) {
3544                 msg->cm_fields['D'] = strdup(dest_node);
3545         }
3546
3547         if (!IsEmptyStr(my_email)) {
3548                 msg->cm_fields['F'] = strdup(my_email);
3549         }
3550         else if ( (author == &CC->user) && (!IsEmptyStr(CC->cs_inet_email)) ) {
3551                 msg->cm_fields['F'] = strdup(CC->cs_inet_email);
3552         }
3553
3554         if (subject != NULL) {
3555                 long length;
3556                 striplt(subject);
3557                 length = strlen(subject);
3558                 if (length > 0) {
3559                         long i;
3560                         long IsAscii;
3561                         IsAscii = -1;
3562                         i = 0;
3563                         while ((subject[i] != '\0') &&
3564                                (IsAscii = isascii(subject[i]) != 0 ))
3565                                 i++;
3566                         if (IsAscii != 0)
3567                                 msg->cm_fields['U'] = strdup(subject);
3568                         else /* ok, we've got utf8 in the string. */
3569                         {
3570                                 msg->cm_fields['U'] = rfc2047encode(subject, length);
3571                         }
3572
3573                 }
3574         }
3575
3576         if (supplied_euid != NULL) {
3577                 msg->cm_fields['E'] = strdup(supplied_euid);
3578         }
3579
3580         if (references != NULL) {
3581                 if (!IsEmptyStr(references)) {
3582                         msg->cm_fields['W'] = strdup(references);
3583                 }
3584         }
3585
3586         if (preformatted_text != NULL) {
3587                 msg->cm_fields['M'] = preformatted_text;
3588         }
3589         else {
3590                 msg->cm_fields['M'] = CtdlReadMessageBody(HKEY("000"), config.c_maxmsglen, NULL, 0, 0);
3591         }
3592
3593         return(msg);
3594 }
3595
3596
3597 /*
3598  * Check to see whether we have permission to post a message in the current
3599  * room.  Returns a *CITADEL ERROR CODE* and puts a message in errmsgbuf, or
3600  * returns 0 on success.
3601  */
3602 int CtdlDoIHavePermissionToPostInThisRoom(char *errmsgbuf, 
3603                                           size_t n, 
3604                                           const char* RemoteIdentifier,
3605                                           int PostPublic) {
3606         int ra;
3607
3608         if (!(CC->logged_in) && 
3609             (PostPublic == POST_LOGGED_IN)) {
3610                 snprintf(errmsgbuf, n, "Not logged in.");
3611                 return (ERROR + NOT_LOGGED_IN);
3612         }
3613         else if (PostPublic == CHECK_EXISTANCE) {
3614                 return (0); // We're Evaling whether a recipient exists
3615         }
3616         else if (!(CC->logged_in)) {
3617                 
3618                 if ((CC->room.QRflags & QR_READONLY)) {
3619                         snprintf(errmsgbuf, n, "Not logged in.");
3620                         return (ERROR + NOT_LOGGED_IN);
3621                 }
3622                 if (CC->room.QRflags2 & QR2_MODERATED) {
3623                         snprintf(errmsgbuf, n, "Not logged in Moderation feature not yet implemented!");
3624                         return (ERROR + NOT_LOGGED_IN);
3625                 }
3626                 if ((PostPublic!=POST_LMTP) &&(CC->room.QRflags2 & QR2_SMTP_PUBLIC) == 0) {
3627                         SpoolControl *sc;
3628                         char filename[SIZ];
3629                         int found;
3630
3631                         if (RemoteIdentifier == NULL)
3632                         {
3633                                 snprintf(errmsgbuf, n, "Need sender to permit access.");
3634                                 return (ERROR + USERNAME_REQUIRED);
3635                         }
3636
3637                         assoc_file_name(filename, sizeof filename, &CC->room, ctdl_netcfg_dir);
3638                         begin_critical_section(S_NETCONFIGS);
3639                         if (!read_spoolcontrol_file(&sc, filename))
3640                         {
3641                                 end_critical_section(S_NETCONFIGS);
3642                                 snprintf(errmsgbuf, n,
3643                                         "This mailing list only accepts posts from subscribers.");
3644                                 return (ERROR + NO_SUCH_USER);
3645                         }
3646                         end_critical_section(S_NETCONFIGS);
3647                         found = is_recipient (sc, RemoteIdentifier);
3648                         free_spoolcontrol_struct(&sc);
3649                         if (found) {
3650                                 return (0);
3651                         }
3652                         else {
3653                                 snprintf(errmsgbuf, n,
3654                                         "This mailing list only accepts posts from subscribers.");
3655                                 return (ERROR + NO_SUCH_USER);
3656                         }
3657                 }
3658                 return (0);
3659
3660         }
3661
3662         if ((CC->user.axlevel < AxProbU)
3663             && ((CC->room.QRflags & QR_MAILBOX) == 0)) {
3664                 snprintf(errmsgbuf, n, "Need to be validated to enter "
3665                                 "(except in %s> to sysop)", MAILROOM);
3666                 return (ERROR + HIGHER_ACCESS_REQUIRED);
3667         }
3668
3669         CtdlRoomAccess(&CC->room, &CC->user, &ra, NULL);
3670         if (!(ra & UA_POSTALLOWED)) {
3671                 snprintf(errmsgbuf, n, "Higher access is required to post in this room.");
3672                 return (ERROR + HIGHER_ACCESS_REQUIRED);
3673         }
3674
3675         strcpy(errmsgbuf, "Ok");
3676         return(0);
3677 }
3678
3679
3680 /*
3681  * Check to see if the specified user has Internet mail permission
3682  * (returns nonzero if permission is granted)
3683  */
3684 int CtdlCheckInternetMailPermission(struct ctdluser *who) {
3685
3686         /* Do not allow twits to send Internet mail */
3687         if (who->axlevel <= AxProbU) return(0);
3688
3689         /* Globally enabled? */
3690         if (config.c_restrict == 0) return(1);
3691
3692         /* User flagged ok? */
3693         if (who->flags & US_INTERNET) return(2);
3694
3695         /* Aide level access? */
3696         if (who->axlevel >= AxAideU) return(3);
3697
3698         /* No mail for you! */
3699         return(0);
3700 }
3701
3702
3703 /*
3704  * Validate recipients, count delivery types and errors, and handle aliasing
3705  * FIXME check for dupes!!!!!
3706  *
3707  * Returns 0 if all addresses are ok, ret->num_error = -1 if no addresses 
3708  * were specified, or the number of addresses found invalid.
3709  *
3710  * Caller needs to free the result using free_recipients()
3711  */
3712 struct recptypes *validate_recipients(const char *supplied_recipients, 
3713                                       const char *RemoteIdentifier, 
3714                                       int Flags) {
3715         struct recptypes *ret;
3716         char *recipients = NULL;
3717         char this_recp[256];
3718         char this_recp_cooked[256];
3719         char append[SIZ];
3720         int num_recps = 0;
3721         int i, j;
3722         int mailtype;
3723         int invalid;
3724         struct ctdluser tempUS;
3725         struct ctdlroom tempQR;
3726         struct ctdlroom tempQR2;
3727         int err = 0;
3728         char errmsg[SIZ];
3729         int in_quotes = 0;
3730
3731         /* Initialize */
3732         ret = (struct recptypes *) malloc(sizeof(struct recptypes));
3733         if (ret == NULL) return(NULL);
3734
3735         /* Set all strings to null and numeric values to zero */
3736         memset(ret, 0, sizeof(struct recptypes));
3737
3738         if (supplied_recipients == NULL) {
3739                 recipients = strdup("");
3740         }
3741         else {
3742                 recipients = strdup(supplied_recipients);
3743         }
3744
3745         /* Allocate some memory.  Yes, this allocates 500% more memory than we will
3746          * actually need, but it's healthier for the heap than doing lots of tiny
3747          * realloc() calls instead.
3748          */
3749
3750         ret->errormsg = malloc(strlen(recipients) + 1024);
3751         ret->recp_local = malloc(strlen(recipients) + 1024);
3752         ret->recp_internet = malloc(strlen(recipients) + 1024);
3753         ret->recp_ignet = malloc(strlen(recipients) + 1024);
3754         ret->recp_room = malloc(strlen(recipients) + 1024);
3755         ret->display_recp = malloc(strlen(recipients) + 1024);
3756
3757         ret->errormsg[0] = 0;
3758         ret->recp_local[0] = 0;
3759         ret->recp_internet[0] = 0;
3760         ret->recp_ignet[0] = 0;
3761         ret->recp_room[0] = 0;
3762         ret->display_recp[0] = 0;
3763
3764         ret->recptypes_magic = RECPTYPES_MAGIC;
3765
3766         /* Change all valid separator characters to commas */
3767         for (i=0; !IsEmptyStr(&recipients[i]); ++i) {
3768                 if ((recipients[i] == ';') || (recipients[i] == '|')) {
3769                         recipients[i] = ',';
3770                 }
3771         }
3772
3773         /* Now start extracting recipients... */
3774
3775         while (!IsEmptyStr(recipients)) {
3776
3777                 for (i=0; i<=strlen(recipients); ++i) {
3778                         if (recipients[i] == '\"') in_quotes = 1 - in_quotes;
3779                         if ( ( (recipients[i] == ',') && (!in_quotes) ) || (recipients[i] == 0) ) {
3780                                 safestrncpy(this_recp, recipients, i+1);
3781                                 this_recp[i] = 0;
3782                                 if (recipients[i] == ',') {
3783                                         strcpy(recipients, &recipients[i+1]);
3784                                 }
3785                                 else {
3786                                         strcpy(recipients, "");
3787                                 }
3788                                 break;
3789                         }
3790                 }
3791
3792                 striplt(this_recp);
3793                 if (IsEmptyStr(this_recp))
3794                         break;
3795                 CtdlLogPrintf(CTDL_DEBUG, "Evaluating recipient #%d: %s\n", num_recps, this_recp);
3796                 ++num_recps;
3797                 mailtype = alias(this_recp);
3798                 mailtype = alias(this_recp);
3799                 mailtype = alias(this_recp);
3800                 j = 0;
3801                 for (j=0; !IsEmptyStr(&this_recp[j]); ++j) {
3802                         if (this_recp[j]=='_') {
3803                                 this_recp_cooked[j] = ' ';
3804                         }
3805                         else {
3806                                 this_recp_cooked[j] = this_recp[j];
3807                         }
3808                 }
3809                 this_recp_cooked[j] = '\0';
3810                 invalid = 0;
3811                 errmsg[0] = 0;
3812                 switch(mailtype) {
3813                         case MES_LOCAL:
3814                                 if (!strcasecmp(this_recp, "sysop")) {
3815                                         ++ret->num_room;
3816                                         strcpy(this_recp, config.c_aideroom);
3817                                         if (!IsEmptyStr(ret->recp_room)) {
3818                                                 strcat(ret->recp_room, "|");
3819                                         }
3820                                         strcat(ret->recp_room, this_recp);
3821                                 }
3822                                 else if ( (!strncasecmp(this_recp, "room_", 5))
3823                                       && (!CtdlGetRoom(&tempQR, &this_recp_cooked[5])) ) {
3824
3825                                         /* Save room so we can restore it later */
3826                                         tempQR2 = CC->room;
3827                                         CC->room = tempQR;
3828                                         
3829                                         /* Check permissions to send mail to this room */
3830                                         err = CtdlDoIHavePermissionToPostInThisRoom(errmsg, 
3831                                                                                     sizeof errmsg, 
3832                                                                                     RemoteIdentifier,
3833                                                                                     Flags
3834                                         );
3835                                         if (err)
3836                                         {
3837                                                 ++ret->num_error;
3838                                                 invalid = 1;
3839                                         } 
3840                                         else {
3841                                                 ++ret->num_room;
3842                                                 if (!IsEmptyStr(ret->recp_room)) {
3843                                                         strcat(ret->recp_room, "|");
3844                                                 }
3845                                                 strcat(ret->recp_room, &this_recp_cooked[5]);
3846                                         }
3847                                         
3848                                         /* Restore room in case something needs it */
3849                                         CC->room = tempQR2;
3850
3851                                 }
3852                                 else if (CtdlGetUser(&tempUS, this_recp) == 0) {
3853                                         ++ret->num_local;
3854                                         strcpy(this_recp, tempUS.fullname);
3855                                         if (!IsEmptyStr(ret->recp_local)) {
3856                                                 strcat(ret->recp_local, "|");
3857                                         }
3858                                         strcat(ret->recp_local, this_recp);
3859                                 }
3860                                 else if (CtdlGetUser(&tempUS, this_recp_cooked) == 0) {
3861                                         ++ret->num_local;
3862                                         strcpy(this_recp, tempUS.fullname);
3863                                         if (!IsEmptyStr(ret->recp_local)) {
3864                                                 strcat(ret->recp_local, "|");
3865                                         }
3866                                         strcat(ret->recp_local, this_recp);
3867                                 }
3868                                 else {
3869                                         ++ret->num_error;
3870                                         invalid = 1;
3871                                 }
3872                                 break;
3873                         case MES_INTERNET:
3874                                 /* Yes, you're reading this correctly: if the target
3875                                  * domain points back to the local system or an attached
3876                                  * Citadel directory, the address is invalid.  That's
3877                                  * because if the address were valid, we would have
3878                                  * already translated it to a local address by now.
3879                                  */
3880                                 if (IsDirectory(this_recp, 0)) {
3881                                         ++ret->num_error;
3882                                         invalid = 1;
3883                                 }
3884                                 else {
3885                                         ++ret->num_internet;
3886                                         if (!IsEmptyStr(ret->recp_internet)) {
3887                                                 strcat(ret->recp_internet, "|");
3888                                         }
3889                                         strcat(ret->recp_internet, this_recp);
3890                                 }
3891                                 break;
3892                         case MES_IGNET:
3893                                 ++ret->num_ignet;
3894                                 if (!IsEmptyStr(ret->recp_ignet)) {
3895                                         strcat(ret->recp_ignet, "|");
3896                                 }
3897                                 strcat(ret->recp_ignet, this_recp);
3898                                 break;
3899                         case MES_ERROR:
3900                                 ++ret->num_error;
3901                                 invalid = 1;
3902                                 break;
3903                 }
3904                 if (invalid) {
3905                         if (IsEmptyStr(errmsg)) {
3906                                 snprintf(append, sizeof append, "Invalid recipient: %s", this_recp);
3907                         }
3908                         else {
3909                                 snprintf(append, sizeof append, "%s", errmsg);
3910                         }
3911                         if ( (strlen(ret->errormsg) + strlen(append) + 3) < SIZ) {
3912                                 if (!IsEmptyStr(ret->errormsg)) {
3913                                         strcat(ret->errormsg, "; ");
3914                                 }
3915                                 strcat(ret->errormsg, append);
3916                         }
3917                 }
3918                 else {
3919                         if (IsEmptyStr(ret->display_recp)) {
3920                                 strcpy(append, this_recp);
3921                         }
3922                         else {
3923                                 snprintf(append, sizeof append, ", %s", this_recp);
3924                         }
3925                         if ( (strlen(ret->display_recp)+strlen(append)) < SIZ) {
3926                                 strcat(ret->display_recp, append);
3927                         }
3928                 }
3929         }
3930
3931         if ((ret->num_local + ret->num_internet + ret->num_ignet +
3932            ret->num_room + ret->num_error) == 0) {
3933                 ret->num_error = (-1);
3934                 strcpy(ret->errormsg, "No recipients specified.");
3935         }
3936
3937         CtdlLogPrintf(CTDL_DEBUG, "validate_recipients()\n");
3938         CtdlLogPrintf(CTDL_DEBUG, " local: %d <%s>\n", ret->num_local, ret->recp_local);
3939         CtdlLogPrintf(CTDL_DEBUG, "  room: %d <%s>\n", ret->num_room, ret->recp_room);
3940         CtdlLogPrintf(CTDL_DEBUG, "  inet: %d <%s>\n", ret->num_internet, ret->recp_internet);
3941         CtdlLogPrintf(CTDL_DEBUG, " ignet: %d <%s>\n", ret->num_ignet, ret->recp_ignet);
3942         CtdlLogPrintf(CTDL_DEBUG, " error: %d <%s>\n", ret->num_error, ret->errormsg);
3943
3944         free(recipients);
3945         return(ret);
3946 }
3947
3948
3949 /*
3950  * Destructor for struct recptypes
3951  */
3952 void free_recipients(struct recptypes *valid) {
3953
3954         if (valid == NULL) {
3955                 return;
3956         }
3957
3958         if (valid->recptypes_magic != RECPTYPES_MAGIC) {
3959                 CtdlLogPrintf(CTDL_EMERG, "Attempt to call free_recipients() on some other data type!\n");
3960                 abort();
3961         }
3962
3963         if (valid->errormsg != NULL)            free(valid->errormsg);
3964         if (valid->recp_local != NULL)          free(valid->recp_local);
3965         if (valid->recp_internet != NULL)       free(valid->recp_internet);
3966         if (valid->recp_ignet != NULL)          free(valid->recp_ignet);
3967         if (valid->recp_room != NULL)           free(valid->recp_room);
3968         if (valid->display_recp != NULL)        free(valid->display_recp);
3969         if (valid->bounce_to != NULL)           free(valid->bounce_to);
3970         if (valid->envelope_from != NULL)       free(valid->envelope_from);
3971         free(valid);
3972 }
3973
3974
3975
3976 /*
3977  * message entry  -  mode 0 (normal)
3978  */
3979 void cmd_ent0(char *entargs)
3980 {
3981         int post = 0;
3982         char recp[SIZ];
3983         char cc[SIZ];
3984         char bcc[SIZ];
3985         char supplied_euid[128];
3986         int anon_flag = 0;
3987         int format_type = 0;
3988         char newusername[256];
3989         char newuseremail[256];
3990         struct CtdlMessage *msg;
3991         int anonymous = 0;
3992         char errmsg[SIZ];
3993         int err = 0;
3994         struct recptypes *valid = NULL;
3995         struct recptypes *valid_to = NULL;
3996         struct recptypes *valid_cc = NULL;
3997         struct recptypes *valid_bcc = NULL;
3998         char subject[SIZ];
3999         int subject_required = 0;
4000         int do_confirm = 0;
4001         long msgnum;
4002         int i, j;
4003         char buf[256];
4004         int newuseremail_ok = 0;
4005         char references[SIZ];
4006         char *ptr;
4007
4008         unbuffer_output();
4009
4010         post = extract_int(entargs, 0);
4011         extract_token(recp, entargs, 1, '|', sizeof recp);
4012         anon_flag = extract_int(entargs, 2);
4013         format_type = extract_int(entargs, 3);
4014         extract_token(subject, entargs, 4, '|', sizeof subject);
4015         extract_token(newusername, entargs, 5, '|', sizeof newusername);
4016         do_confirm = extract_int(entargs, 6);
4017         extract_token(cc, entargs, 7, '|', sizeof cc);
4018         extract_token(bcc, entargs, 8, '|', sizeof bcc);
4019         switch(CC->room.QRdefaultview) {
4020                 case VIEW_NOTES:
4021                 case VIEW_WIKI:
4022                         extract_token(supplied_euid, entargs, 9, '|', sizeof supplied_euid);
4023                         break;
4024                 default:
4025                         supplied_euid[0] = 0;
4026                         break;
4027         }
4028         extract_token(newuseremail, entargs, 10, '|', sizeof newuseremail);
4029         extract_token(references, entargs, 11, '|', sizeof references);
4030         for (ptr=references; *ptr != 0; ++ptr) {
4031                 if (*ptr == '!') *ptr = '|';
4032         }
4033
4034         /* first check to make sure the request is valid. */
4035
4036         err = CtdlDoIHavePermissionToPostInThisRoom(errmsg, sizeof errmsg, NULL, POST_LOGGED_IN);
4037         if (err)
4038         {
4039                 cprintf("%d %s\n", err, errmsg);
4040                 return;
4041         }
4042
4043         /* Check some other permission type things. */
4044
4045         if (IsEmptyStr(newusername)) {
4046                 strcpy(newusername, CC->user.fullname);
4047         }
4048         if (  (CC->user.axlevel < AxAideU)
4049            && (strcasecmp(newusername, CC->user.fullname))
4050            && (strcasecmp(newusername, CC->cs_inet_fn))
4051         ) {     
4052                 cprintf("%d You don't have permission to author messages as '%s'.\n",
4053                         ERROR + HIGHER_ACCESS_REQUIRED,
4054                         newusername
4055                 );
4056                 return;
4057         }
4058
4059
4060         if (IsEmptyStr(newuseremail)) {
4061                 newuseremail_ok = 1;
4062         }
4063
4064         if (!IsEmptyStr(newuseremail)) {
4065                 if (!strcasecmp(newuseremail, CC->cs_inet_email)) {
4066                         newuseremail_ok = 1;
4067                 }
4068                 else if (!IsEmptyStr(CC->cs_inet_other_emails)) {
4069                         j = num_tokens(CC->cs_inet_other_emails, '|');
4070                         for (i=0; i<j; ++i) {
4071                                 extract_token(buf, CC->cs_inet_other_emails, i, '|', sizeof buf);
4072                                 if (!strcasecmp(newuseremail, buf)) {
4073                                         newuseremail_ok = 1;
4074                                 }
4075                         }
4076                 }
4077         }
4078
4079         if (!newuseremail_ok) {
4080                 cprintf("%d You don't have permission to author messages as '%s'.\n",
4081                         ERROR + HIGHER_ACCESS_REQUIRED,
4082                         newuseremail
4083                 );
4084                 return;
4085         }
4086
4087         CC->cs_flags |= CS_POSTING;
4088
4089         /* In mailbox rooms we have to behave a little differently --
4090          * make sure the user has specified at least one recipient.  Then
4091          * validate the recipient(s).  We do this for the Mail> room, as
4092          * well as any room which has the "Mailbox" view set - unless it
4093          * is the DRAFTS room which does not require recipients
4094          */
4095
4096         if ( (  ( (CC->room.QRflags & QR_MAILBOX) && (!strcasecmp(&CC->room.QRname[11], MAILROOM)) )
4097              || ( (CC->room.QRflags & QR_MAILBOX) && (CC->curr_view == VIEW_MAILBOX) )
4098         ) && (strcasecmp(&CC->room.QRname[11], USERDRAFTROOM)) !=0 ) {
4099                 if (CC->user.axlevel < AxProbU) {
4100                         strcpy(recp, "sysop");
4101                         strcpy(cc, "");
4102                         strcpy(bcc, "");
4103                 }
4104
4105                 valid_to = validate_recipients(recp, NULL, 0);
4106                 if (valid_to->num_error > 0) {
4107                         cprintf("%d %s\n", ERROR + NO_SUCH_USER, valid_to->errormsg);
4108                         free_recipients(valid_to);
4109                         return;
4110                 }
4111
4112                 valid_cc = validate_recipients(cc, NULL, 0);
4113                 if (valid_cc->num_error > 0) {
4114                         cprintf("%d %s\n", ERROR + NO_SUCH_USER, valid_cc->errormsg);
4115                         free_recipients(valid_to);
4116                         free_recipients(valid_cc);
4117                         return;
4118                 }
4119
4120                 valid_bcc = validate_recipients(bcc, NULL, 0);
4121                 if (valid_bcc->num_error > 0) {
4122                         cprintf("%d %s\n", ERROR + NO_SUCH_USER, valid_bcc->errormsg);
4123                         free_recipients(valid_to);
4124                         free_recipients(valid_cc);
4125                         free_recipients(valid_bcc);
4126                         return;
4127                 }
4128
4129                 /* Recipient required, but none were specified */
4130                 if ( (valid_to->num_error < 0) && (valid_cc->num_error < 0) && (valid_bcc->num_error < 0) ) {
4131                         free_recipients(valid_to);
4132                         free_recipients(valid_cc);
4133                         free_recipients(valid_bcc);
4134                         cprintf("%d At least one recipient is required.\n", ERROR + NO_SUCH_USER);
4135                         return;
4136                 }
4137
4138                 if (valid_to->num_internet + valid_cc->num_internet + valid_bcc->num_internet > 0) {
4139                         if (CtdlCheckInternetMailPermission(&CC->user)==0) {
4140                                 cprintf("%d You do not have permission "
4141                                         "to send Internet mail.\n",
4142                                         ERROR + HIGHER_ACCESS_REQUIRED);
4143                                 free_recipients(valid_to);
4144                                 free_recipients(valid_cc);
4145                                 free_recipients(valid_bcc);
4146                                 return;
4147                         }
4148                 }
4149
4150                 if ( ( (valid_to->num_internet + valid_to->num_ignet + valid_cc->num_internet + valid_cc->num_ignet + valid_bcc->num_internet + valid_bcc->num_ignet) > 0)
4151                    && (CC->user.axlevel < AxNetU) ) {
4152                         cprintf("%d Higher access required for network mail.\n",
4153                                 ERROR + HIGHER_ACCESS_REQUIRED);
4154                         free_recipients(valid_to);
4155                         free_recipients(valid_cc);
4156                         free_recipients(valid_bcc);
4157                         return;
4158                 }
4159         
4160                 if ((RESTRICT_INTERNET == 1)
4161                     && (valid_to->num_internet + valid_cc->num_internet + valid_bcc->num_internet > 0)
4162                     && ((CC->user.flags & US_INTERNET) == 0)
4163                     && (!CC->internal_pgm)) {
4164                         cprintf("%d You don't have access to Internet mail.\n",
4165                                 ERROR + HIGHER_ACCESS_REQUIRED);
4166                         free_recipients(valid_to);
4167                         free_recipients(valid_cc);
4168                         free_recipients(valid_bcc);
4169                         return;
4170                 }
4171
4172         }
4173
4174         /* Is this a room which has anonymous-only or anonymous-option? */
4175         anonymous = MES_NORMAL;
4176         if (CC->room.QRflags & QR_ANONONLY) {
4177                 anonymous = MES_ANONONLY;
4178         }
4179         if (CC->room.QRflags & QR_ANONOPT) {
4180                 if (anon_flag == 1) {   /* only if the user requested it */
4181                         anonymous = MES_ANONOPT;
4182                 }
4183         }
4184
4185         if ((CC->room.QRflags & QR_MAILBOX) == 0) {
4186                 recp[0] = 0;
4187         }
4188
4189         /* Recommend to the client that the use of a message subject is
4190          * strongly recommended in this room, if either the SUBJECTREQ flag
4191          * is set, or if there is one or more Internet email recipients.
4192          */
4193         if (CC->room.QRflags2 & QR2_SUBJECTREQ) subject_required = 1;
4194         if ((valid_to)  && (valid_to->num_internet > 0))        subject_required = 1;
4195         if ((valid_cc)  && (valid_cc->num_internet > 0))        subject_required = 1;
4196         if ((valid_bcc) && (valid_bcc->num_internet > 0))       subject_required = 1;
4197
4198         /* If we're only checking the validity of the request, return
4199          * success without creating the message.
4200          */
4201         if (post == 0) {
4202                 cprintf("%d %s|%d\n", CIT_OK,
4203                         ((valid_to != NULL) ? valid_to->display_recp : ""), 
4204                         subject_required);
4205                 free_recipients(valid_to);
4206                 free_recipients(valid_cc);
4207                 free_recipients(valid_bcc);
4208                 return;
4209         }
4210
4211         /* We don't need these anymore because we'll do it differently below */
4212         free_recipients(valid_to);
4213         free_recipients(valid_cc);
4214         free_recipients(valid_bcc);
4215
4216         /* Read in the message from the client. */
4217         if (do_confirm) {
4218                 cprintf("%d send message\n", START_CHAT_MODE);
4219         } else {
4220                 cprintf("%d send message\n", SEND_LISTING);
4221         }
4222
4223         msg = CtdlMakeMessage(&CC->user, recp, cc,
4224                 CC->room.QRname, anonymous, format_type,
4225                 newusername, newuseremail, subject,
4226                 ((!IsEmptyStr(supplied_euid)) ? supplied_euid : NULL),
4227                 NULL, references);
4228
4229         /* Put together one big recipients struct containing to/cc/bcc all in
4230          * one.  This is for the envelope.
4231          */
4232         char *all_recps = malloc(SIZ * 3);
4233         strcpy(all_recps, recp);
4234         if (!IsEmptyStr(cc)) {
4235                 if (!IsEmptyStr(all_recps)) {
4236                         strcat(all_recps, ",");
4237                 }
4238                 strcat(all_recps, cc);
4239         }
4240         if (!IsEmptyStr(bcc)) {
4241                 if (!IsEmptyStr(all_recps)) {
4242                         strcat(all_recps, ",");
4243                 }
4244                 strcat(all_recps, bcc);
4245         }
4246         if (!IsEmptyStr(all_recps)) {
4247                 valid = validate_recipients(all_recps, NULL, 0);
4248         }
4249         else {
4250                 valid = NULL;
4251         }
4252         free(all_recps);
4253
4254         if (msg != NULL) {
4255                 msgnum = CtdlSubmitMsg(msg, valid, "", QP_EADDR);
4256
4257                 if (do_confirm) {
4258                         cprintf("%ld\n", msgnum);
4259                         if (msgnum >= 0L) {
4260                                 cprintf("Message accepted.\n");
4261                         }
4262                         else {
4263                                 cprintf("Internal error.\n");
4264                         }
4265                         if (msg->cm_fields['E'] != NULL) {
4266                                 cprintf("%s\n", msg->cm_fields['E']);
4267                         } else {
4268                                 cprintf("\n");
4269                         }
4270                         cprintf("000\n");
4271                 }
4272
4273                 CtdlFreeMessage(msg);
4274         }
4275         if (valid != NULL) {
4276                 free_recipients(valid);
4277         }
4278         return;
4279 }
4280
4281
4282
4283 /*
4284  * API function to delete messages which match a set of criteria
4285  * (returns the actual number of messages deleted)
4286  */
4287 int CtdlDeleteMessages(char *room_name,         /* which room */
4288                         long *dmsgnums,         /* array of msg numbers to be deleted */
4289                         int num_dmsgnums,       /* number of msgs to be deleted, or 0 for "any" */
4290                         char *content_type      /* or "" for any.  regular expressions expected. */
4291 )
4292 {
4293         struct ctdlroom qrbuf;
4294         struct cdbdata *cdbfr;
4295         long *msglist = NULL;
4296         long *dellist = NULL;
4297         int num_msgs = 0;
4298         int i, j;
4299         int num_deleted = 0;
4300         int delete_this;
4301         struct MetaData smi;
4302         regex_t re;
4303         regmatch_t pm;
4304         int need_to_free_re = 0;
4305
4306         if (content_type) if (!IsEmptyStr(content_type)) {
4307                 regcomp(&re, content_type, 0);
4308                 need_to_free_re = 1;
4309         }
4310         CtdlLogPrintf(CTDL_DEBUG, "CtdlDeleteMessages(%s, %d msgs, %s)\n",
4311                 room_name, num_dmsgnums, content_type);
4312
4313         /* get room record, obtaining a lock... */
4314         if (CtdlGetRoomLock(&qrbuf, room_name) != 0) {
4315                 CtdlLogPrintf(CTDL_ERR, "CtdlDeleteMessages(): Room <%s> not found\n",
4316                         room_name);
4317                 if (need_to_free_re) regfree(&re);
4318                 return (0);     /* room not found */
4319         }
4320         cdbfr = cdb_fetch(CDB_MSGLISTS, &qrbuf.QRnumber, sizeof(long));
4321
4322         if (cdbfr != NULL) {
4323                 dellist = malloc(cdbfr->len);
4324                 msglist = (long *) cdbfr->ptr;
4325                 cdbfr->ptr = NULL;      /* CtdlDeleteMessages() now owns this memory */
4326                 num_msgs = cdbfr->len / sizeof(long);
4327                 cdb_free(cdbfr);
4328         }
4329         if (num_msgs > 0) {
4330                 for (i = 0; i < num_msgs; ++i) {
4331                         delete_this = 0x00;
4332
4333                         /* Set/clear a bit for each criterion */
4334
4335                         /* 0 messages in the list or a null list means that we are
4336                          * interested in deleting any messages which meet the other criteria.
4337                          */
4338                         if ((num_dmsgnums == 0) || (dmsgnums == NULL)) {
4339                                 delete_this |= 0x01;
4340                         }
4341                         else {
4342                                 for (j=0; j<num_dmsgnums; ++j) {
4343                                         if (msglist[i] == dmsgnums[j]) {
4344                                                 delete_this |= 0x01;
4345                                         }
4346                                 }
4347                         }
4348
4349                         if (IsEmptyStr(content_type)) {
4350                                 delete_this |= 0x02;
4351                         } else {
4352                                 GetMetaData(&smi, msglist[i]);
4353                                 if (regexec(&re, smi.meta_content_type, 1, &pm, 0) == 0) {
4354                                         delete_this |= 0x02;
4355                                 }
4356                         }
4357
4358                         /* Delete message only if all bits are set */
4359                         if (delete_this == 0x03) {
4360                                 dellist[num_deleted++] = msglist[i];
4361                                 msglist[i] = 0L;
4362                         }
4363                 }
4364
4365                 num_msgs = sort_msglist(msglist, num_msgs);
4366                 cdb_store(CDB_MSGLISTS, &qrbuf.QRnumber, (int)sizeof(long),
4367                           msglist, (int)(num_msgs * sizeof(long)));
4368
4369                 if (num_msgs > 0)
4370                         qrbuf.QRhighest = msglist[num_msgs - 1];
4371                 else
4372                         qrbuf.QRhighest = 0;
4373         }
4374         CtdlPutRoomLock(&qrbuf);
4375
4376         /* Go through the messages we pulled out of the index, and decrement
4377          * their reference counts by 1.  If this is the only room the message
4378          * was in, the reference count will reach zero and the message will
4379          * automatically be deleted from the database.  We do this in a
4380          * separate pass because there might be plug-in hooks getting called,
4381          * and we don't want that happening during an S_ROOMS critical
4382          * section.
4383          */
4384         if (num_deleted) for (i=0; i<num_deleted; ++i) {
4385                 PerformDeleteHooks(qrbuf.QRname, dellist[i]);
4386                 AdjRefCount(dellist[i], -1);
4387         }
4388
4389         /* Now free the memory we used, and go away. */
4390         if (msglist != NULL) free(msglist);
4391         if (dellist != NULL) free(dellist);
4392         CtdlLogPrintf(CTDL_DEBUG, "%d message(s) deleted.\n", num_deleted);
4393         if (need_to_free_re) regfree(&re);
4394         return (num_deleted);
4395 }
4396
4397
4398
4399 /*
4400  * Check whether the current user has permission to delete messages from
4401  * the current room (returns 1 for yes, 0 for no)
4402  */
4403 int CtdlDoIHavePermissionToDeleteMessagesFromThisRoom(void) {
4404         int ra;
4405         CtdlRoomAccess(&CC->room, &CC->user, &ra, NULL);
4406         if (ra & UA_DELETEALLOWED) return(1);
4407         return(0);
4408 }
4409
4410
4411
4412
4413 /*
4414  * Delete message from current room
4415  */
4416 void cmd_dele(char *args)
4417 {
4418         int num_deleted;
4419         int i;
4420         char msgset[SIZ];
4421         char msgtok[32];
4422         long *msgs;
4423         int num_msgs = 0;
4424
4425         extract_token(msgset, args, 0, '|', sizeof msgset);
4426         num_msgs = num_tokens(msgset, ',');
4427         if (num_msgs < 1) {
4428                 cprintf("%d Nothing to do.\n", CIT_OK);
4429                 return;
4430         }
4431
4432         if (CtdlDoIHavePermissionToDeleteMessagesFromThisRoom() == 0) {
4433                 cprintf("%d Higher access required.\n",
4434                         ERROR + HIGHER_ACCESS_REQUIRED);
4435                 return;
4436         }
4437
4438         /*
4439          * Build our message set to be moved/copied
4440          */
4441         msgs = malloc(num_msgs * sizeof(long));
4442         for (i=0; i<num_msgs; ++i) {
4443                 extract_token(msgtok, msgset, i, ',', sizeof msgtok);
4444                 msgs[i] = atol(msgtok);
4445         }
4446
4447         num_deleted = CtdlDeleteMessages(CC->room.QRname, msgs, num_msgs, "");
4448         free(msgs);
4449
4450         if (num_deleted) {
4451                 cprintf("%d %d message%s deleted.\n", CIT_OK,
4452                         num_deleted, ((num_deleted != 1) ? "s" : ""));
4453         } else {
4454                 cprintf("%d Message not found.\n", ERROR + MESSAGE_NOT_FOUND);
4455         }
4456 }
4457
4458
4459
4460
4461 /*
4462  * move or copy a message to another room
4463  */
4464 void cmd_move(char *args)
4465 {
4466         char msgset[SIZ];
4467         char msgtok[32];
4468         long *msgs;
4469         int num_msgs = 0;
4470
4471         char targ[ROOMNAMELEN];
4472         struct ctdlroom qtemp;
4473         int err;
4474         int is_copy = 0;
4475         int ra;
4476         int permit = 0;
4477         int i;
4478
4479         extract_token(msgset, args, 0, '|', sizeof msgset);
4480         num_msgs = num_tokens(msgset, ',');
4481         if (num_msgs < 1) {
4482                 cprintf("%d Nothing to do.\n", CIT_OK);
4483                 return;
4484         }
4485
4486         extract_token(targ, args, 1, '|', sizeof targ);
4487         convert_room_name_macros(targ, sizeof targ);
4488         targ[ROOMNAMELEN - 1] = 0;
4489         is_copy = extract_int(args, 2);
4490
4491         if (CtdlGetRoom(&qtemp, targ) != 0) {
4492                 cprintf("%d '%s' does not exist.\n", ERROR + ROOM_NOT_FOUND, targ);
4493                 return;
4494         }
4495
4496         if (!strcasecmp(qtemp.QRname, CC->room.QRname)) {
4497                 cprintf("%d Source and target rooms are the same.\n", ERROR + ALREADY_EXISTS);
4498                 return;
4499         }
4500
4501         CtdlGetUser(&CC->user, CC->curr_user);
4502         CtdlRoomAccess(&qtemp, &CC->user, &ra, NULL);
4503
4504         /* Check for permission to perform this operation.
4505          * Remember: "CC->room" is source, "qtemp" is target.
4506          */
4507         permit = 0;
4508
4509         /* Aides can move/copy */
4510         if (CC->user.axlevel >= AxAideU) permit = 1;
4511
4512         /* Room aides can move/copy */
4513         if (CC->user.usernum == CC->room.QRroomaide) permit = 1;
4514
4515         /* Permit move/copy from personal rooms */
4516         if ((CC->room.QRflags & QR_MAILBOX)
4517            && (qtemp.QRflags & QR_MAILBOX)) permit = 1;
4518
4519         /* Permit only copy from public to personal room */
4520         if ( (is_copy)
4521            && (!(CC->room.QRflags & QR_MAILBOX))
4522            && (qtemp.QRflags & QR_MAILBOX)) permit = 1;
4523
4524         /* Permit message removal from collaborative delete rooms */
4525         if (CC->room.QRflags2 & QR2_COLLABDEL) permit = 1;
4526
4527         /* Users allowed to post into the target room may move into it too. */
4528         if ((CC->room.QRflags & QR_MAILBOX) && 
4529             (qtemp.QRflags & UA_POSTALLOWED))  permit = 1;
4530
4531         /* User must have access to target room */
4532         if (!(ra & UA_KNOWN))  permit = 0;
4533
4534         if (!permit) {
4535                 cprintf("%d Higher access required.\n",
4536                         ERROR + HIGHER_ACCESS_REQUIRED);
4537                 return;
4538         }
4539
4540         /*
4541          * Build our message set to be moved/copied
4542          */
4543         msgs = malloc(num_msgs * sizeof(long));
4544         for (i=0; i<num_msgs; ++i) {
4545                 extract_token(msgtok, msgset, i, ',', sizeof msgtok);
4546                 msgs[i] = atol(msgtok);
4547         }
4548
4549         /*
4550          * Do the copy
4551          */
4552         err = CtdlSaveMsgPointersInRoom(targ, msgs, num_msgs, 1, NULL, 0);
4553         if (err != 0) {
4554                 cprintf("%d Cannot store message(s) in %s: error %d\n",
4555                         err, targ, err);
4556                 free(msgs);
4557                 return;
4558         }
4559
4560         /* Now delete the message from the source room,
4561          * if this is a 'move' rather than a 'copy' operation.
4562          */
4563         if (is_copy == 0) {
4564                 CtdlDeleteMessages(CC->room.QRname, msgs, num_msgs, "");
4565         }
4566         free(msgs);
4567
4568         cprintf("%d Message(s) %s.\n", CIT_OK, (is_copy ? "copied" : "moved") );
4569 }
4570
4571
4572
4573 /*
4574  * GetMetaData()  -  Get the supplementary record for a message
4575  */
4576 void GetMetaData(struct MetaData *smibuf, long msgnum)
4577 {
4578
4579         struct cdbdata *cdbsmi;
4580         long TheIndex;
4581
4582         memset(smibuf, 0, sizeof(struct MetaData));
4583         smibuf->meta_msgnum = msgnum;
4584         smibuf->meta_refcount = 1;      /* Default reference count is 1 */
4585
4586         /* Use the negative of the message number for its supp record index */
4587         TheIndex = (0L - msgnum);
4588
4589         cdbsmi = cdb_fetch(CDB_MSGMAIN, &TheIndex, sizeof(long));
4590         if (cdbsmi == NULL) {
4591                 return;         /* record not found; go with defaults */
4592         }
4593         memcpy(smibuf, cdbsmi->ptr,
4594                ((cdbsmi->len > sizeof(struct MetaData)) ?
4595                 sizeof(struct MetaData) : cdbsmi->len));
4596         cdb_free(cdbsmi);
4597         return;
4598 }
4599
4600
4601 /*
4602  * PutMetaData()  -  (re)write supplementary record for a message
4603  */
4604 void PutMetaData(struct MetaData *smibuf)
4605 {
4606         long TheIndex;
4607
4608         /* Use the negative of the message number for the metadata db index */
4609         TheIndex = (0L - smibuf->meta_msgnum);
4610
4611         cdb_store(CDB_MSGMAIN,
4612                   &TheIndex, (int)sizeof(long),
4613                   smibuf, (int)sizeof(struct MetaData));
4614
4615 }
4616
4617 /*
4618  * AdjRefCount  -  submit an adjustment to the reference count for a message.
4619  *                 (These are just queued -- we actually process them later.)
4620  */
4621 void AdjRefCount(long msgnum, int incr)
4622 {
4623         struct arcq new_arcq;
4624         int rv = 0;
4625
4626         CtdlLogPrintf(CTDL_DEBUG, "AdjRefCount() msg %ld ref count delta %+d\n",
4627                 msgnum, incr
4628         );
4629
4630         begin_critical_section(S_SUPPMSGMAIN);
4631         if (arcfp == NULL) {
4632                 arcfp = fopen(file_arcq, "ab+");
4633         }
4634         end_critical_section(S_SUPPMSGMAIN);
4635
4636         /* msgnum < 0 means that we're trying to close the file */
4637         if (msgnum < 0) {
4638                 CtdlLogPrintf(CTDL_DEBUG, "Closing the AdjRefCount queue file\n");
4639                 begin_critical_section(S_SUPPMSGMAIN);
4640                 if (arcfp != NULL) {
4641                         fclose(arcfp);
4642                         arcfp = NULL;
4643                 }
4644                 end_critical_section(S_SUPPMSGMAIN);
4645                 return;
4646         }
4647
4648         /*
4649          * If we can't open the queue, perform the operation synchronously.
4650          */
4651         if (arcfp == NULL) {
4652                 TDAP_AdjRefCount(msgnum, incr);
4653                 return;
4654         }
4655
4656         new_arcq.arcq_msgnum = msgnum;
4657         new_arcq.arcq_delta = incr;
4658         rv = fwrite(&new_arcq, sizeof(struct arcq), 1, arcfp);
4659         fflush(arcfp);
4660
4661         return;
4662 }
4663
4664
4665 /*
4666  * TDAP_ProcessAdjRefCountQueue()
4667  *
4668  * Process the queue of message count adjustments that was created by calls
4669  * to AdjRefCount() ... by reading the queue and calling TDAP_AdjRefCount()
4670  * for each one.  This should be an "off hours" operation.
4671  */
4672 int TDAP_ProcessAdjRefCountQueue(void)
4673 {
4674         char file_arcq_temp[PATH_MAX];
4675         int r;
4676         FILE *fp;
4677         struct arcq arcq_rec;
4678         int num_records_processed = 0;
4679
4680         snprintf(file_arcq_temp, sizeof file_arcq_temp, "%s.%04x", file_arcq, rand());
4681
4682         begin_critical_section(S_SUPPMSGMAIN);
4683         if (arcfp != NULL) {
4684                 fclose(arcfp);
4685                 arcfp = NULL;
4686         }
4687
4688         r = link(file_arcq, file_arcq_temp);
4689         if (r != 0) {
4690                 CtdlLogPrintf(CTDL_CRIT, "%s: %s\n", file_arcq_temp, strerror(errno));
4691                 end_critical_section(S_SUPPMSGMAIN);
4692                 return(num_records_processed);
4693         }
4694
4695         unlink(file_arcq);
4696         end_critical_section(S_SUPPMSGMAIN);
4697
4698         fp = fopen(file_arcq_temp, "rb");
4699         if (fp == NULL) {
4700                 CtdlLogPrintf(CTDL_CRIT, "%s: %s\n", file_arcq_temp, strerror(errno));
4701                 return(num_records_processed);
4702         }
4703
4704         while (fread(&arcq_rec, sizeof(struct arcq), 1, fp) == 1) {
4705                 TDAP_AdjRefCount(arcq_rec.arcq_msgnum, arcq_rec.arcq_delta);
4706                 ++num_records_processed;
4707         }
4708
4709         fclose(fp);
4710         r = unlink(file_arcq_temp);
4711         if (r != 0) {
4712                 CtdlLogPrintf(CTDL_CRIT, "%s: %s\n", file_arcq_temp, strerror(errno));
4713         }
4714
4715         return(num_records_processed);
4716 }
4717
4718
4719
4720 /*
4721  * TDAP_AdjRefCount  -  adjust the reference count for a message.
4722  *                      This one does it "for real" because it's called by
4723  *                      the autopurger function that processes the queue
4724  *                      created by AdjRefCount().   If a message's reference
4725  *                      count becomes zero, we also delete the message from
4726  *                      disk and de-index it.
4727  */
4728 void TDAP_AdjRefCount(long msgnum, int incr)
4729 {
4730
4731         struct MetaData smi;
4732         long delnum;
4733
4734         /* This is a *tight* critical section; please keep it that way, as
4735          * it may get called while nested in other critical sections.  
4736          * Complicating this any further will surely cause deadlock!
4737          */
4738         begin_critical_section(S_SUPPMSGMAIN);
4739         GetMetaData(&smi, msgnum);
4740         smi.meta_refcount += incr;
4741         PutMetaData(&smi);
4742         end_critical_section(S_SUPPMSGMAIN);
4743         CtdlLogPrintf(CTDL_DEBUG, "TDAP_AdjRefCount() msg %ld ref count delta %+d, is now %d\n",
4744                 msgnum, incr, smi.meta_refcount
4745         );
4746
4747         /* If the reference count is now zero, delete the message
4748          * (and its supplementary record as well).
4749          */
4750         if (smi.meta_refcount == 0) {
4751                 CtdlLogPrintf(CTDL_DEBUG, "Deleting message <%ld>\n", msgnum);
4752                 
4753                 /* Call delete hooks with NULL room to show it has gone altogether */
4754                 PerformDeleteHooks(NULL, msgnum);
4755
4756                 /* Remove from message base */
4757                 delnum = msgnum;
4758                 cdb_delete(CDB_MSGMAIN, &delnum, (int)sizeof(long));
4759                 cdb_delete(CDB_BIGMSGS, &delnum, (int)sizeof(long));
4760
4761                 /* Remove metadata record */
4762                 delnum = (0L - msgnum);
4763                 cdb_delete(CDB_MSGMAIN, &delnum, (int)sizeof(long));
4764         }
4765
4766 }
4767
4768 /*
4769  * Write a generic object to this room
4770  *
4771  * Note: this could be much more efficient.  Right now we use two temporary
4772  * files, and still pull the message into memory as with all others.
4773  */
4774 void CtdlWriteObject(char *req_room,                    /* Room to stuff it in */
4775                         char *content_type,             /* MIME type of this object */
4776                         char *raw_message,              /* Data to be written */
4777                         off_t raw_length,               /* Size of raw_message */
4778                         struct ctdluser *is_mailbox,    /* Mailbox room? */
4779                         int is_binary,                  /* Is encoding necessary? */
4780                         int is_unique,                  /* Del others of this type? */
4781                         unsigned int flags              /* Internal save flags */
4782                         )
4783 {
4784
4785         struct ctdlroom qrbuf;
4786         char roomname[ROOMNAMELEN];
4787         struct CtdlMessage *msg;
4788         char *encoded_message = NULL;
4789
4790         if (is_mailbox != NULL) {
4791                 CtdlMailboxName(roomname, sizeof roomname, is_mailbox, req_room);
4792         }
4793         else {
4794                 safestrncpy(roomname, req_room, sizeof(roomname));
4795         }
4796
4797         CtdlLogPrintf(CTDL_DEBUG, "Raw length is %ld\n", (long)raw_length);
4798
4799         if (is_binary) {
4800                 encoded_message = malloc((size_t) (((raw_length * 134) / 100) + 4096 ) );
4801         }
4802         else {
4803                 encoded_message = malloc((size_t)(raw_length + 4096));
4804         }
4805
4806         sprintf(encoded_message, "Content-type: %s\n", content_type);
4807
4808         if (is_binary) {
4809                 sprintf(&encoded_message[strlen(encoded_message)],
4810                         "Content-transfer-encoding: base64\n\n"
4811                 );
4812         }
4813         else {
4814                 sprintf(&encoded_message[strlen(encoded_message)],
4815                         "Content-transfer-encoding: 7bit\n\n"
4816                 );
4817         }
4818
4819         if (is_binary) {
4820                 CtdlEncodeBase64(
4821                         &encoded_message[strlen(encoded_message)],
4822                         raw_message,
4823                         (int)raw_length,
4824                         0
4825                 );
4826         }
4827         else {
4828                 memcpy(
4829                         &encoded_message[strlen(encoded_message)],
4830                         raw_message,
4831                         (int)(raw_length+1)
4832                 );
4833         }
4834
4835         CtdlLogPrintf(CTDL_DEBUG, "Allocating\n");
4836         msg = malloc(sizeof(struct CtdlMessage));
4837         memset(msg, 0, sizeof(struct CtdlMessage));
4838         msg->cm_magic = CTDLMESSAGE_MAGIC;
4839         msg->cm_anon_type = MES_NORMAL;
4840         msg->cm_format_type = 4;
4841         msg->cm_fields['A'] = strdup(CC->user.fullname);
4842         msg->cm_fields['O'] = strdup(req_room);
4843         msg->cm_fields['N'] = strdup(config.c_nodename);
4844         msg->cm_fields['H'] = strdup(config.c_humannode);
4845         msg->cm_flags = flags;
4846         
4847         msg->cm_fields['M'] = encoded_message;
4848
4849         /* Create the requested room if we have to. */
4850         if (CtdlGetRoom(&qrbuf, roomname) != 0) {
4851                 CtdlCreateRoom(roomname, 
4852                         ( (is_mailbox != NULL) ? 5 : 3 ),
4853                         "", 0, 1, 0, VIEW_BBS);
4854         }
4855         /* If the caller specified this object as unique, delete all
4856          * other objects of this type that are currently in the room.
4857          */
4858         if (is_unique) {
4859                 CtdlLogPrintf(CTDL_DEBUG, "Deleted %d other msgs of this type\n",
4860                         CtdlDeleteMessages(roomname, NULL, 0, content_type)
4861                 );
4862         }
4863         /* Now write the data */
4864         CtdlSubmitMsg(msg, NULL, roomname, 0);
4865         CtdlFreeMessage(msg);
4866 }
4867
4868
4869
4870
4871
4872
4873 void CtdlGetSysConfigBackend(long msgnum, void *userdata) {
4874         config_msgnum = msgnum;
4875 }
4876
4877
4878 char *CtdlGetSysConfig(char *sysconfname) {
4879         char hold_rm[ROOMNAMELEN];
4880         long msgnum;
4881         char *conf;
4882         struct CtdlMessage *msg;
4883         char buf[SIZ];
4884         
4885         strcpy(hold_rm, CC->room.QRname);
4886         if (CtdlGetRoom(&CC->room, SYSCONFIGROOM) != 0) {
4887                 CtdlGetRoom(&CC->room, hold_rm);
4888                 return NULL;
4889         }
4890
4891
4892         /* We want the last (and probably only) config in this room */
4893         begin_critical_section(S_CONFIG);
4894         config_msgnum = (-1L);
4895         CtdlForEachMessage(MSGS_LAST, 1, NULL, sysconfname, NULL,
4896                 CtdlGetSysConfigBackend, NULL);
4897         msgnum = config_msgnum;
4898         end_critical_section(S_CONFIG);
4899
4900         if (msgnum < 0L) {
4901                 conf = NULL;
4902         }
4903         else {
4904                 msg = CtdlFetchMessage(msgnum, 1);
4905                 if (msg != NULL) {
4906                         conf = strdup(msg->cm_fields['M']);
4907                         CtdlFreeMessage(msg);
4908                 }
4909                 else {
4910                         conf = NULL;
4911                 }
4912         }
4913
4914         CtdlGetRoom(&CC->room, hold_rm);
4915
4916         if (conf != NULL) do {
4917                 extract_token(buf, conf, 0, '\n', sizeof buf);
4918                 strcpy(conf, &conf[strlen(buf)+1]);
4919         } while ( (!IsEmptyStr(conf)) && (!IsEmptyStr(buf)) );
4920
4921         return(conf);
4922 }
4923
4924
4925 void CtdlPutSysConfig(char *sysconfname, char *sysconfdata) {
4926         CtdlWriteObject(SYSCONFIGROOM, sysconfname, sysconfdata, (strlen(sysconfdata)+1), NULL, 0, 1, 0);
4927 }
4928
4929
4930 /*
4931  * Determine whether a given Internet address belongs to the current user
4932  */
4933 int CtdlIsMe(char *addr, int addr_buf_len)
4934 {
4935         struct recptypes *recp;
4936         int i;
4937
4938         recp = validate_recipients(addr, NULL, 0);
4939         if (recp == NULL) return(0);
4940
4941         if (recp->num_local == 0) {
4942                 free_recipients(recp);
4943                 return(0);
4944         }
4945
4946         for (i=0; i<recp->num_local; ++i) {
4947                 extract_token(addr, recp->recp_local, i, '|', addr_buf_len);
4948                 if (!strcasecmp(addr, CC->user.fullname)) {
4949                         free_recipients(recp);
4950                         return(1);
4951                 }
4952         }
4953
4954         free_recipients(recp);
4955         return(0);
4956 }
4957
4958
4959 /*
4960  * Citadel protocol command to do the same
4961  */
4962 void cmd_isme(char *argbuf) {
4963         char addr[256];
4964
4965         if (CtdlAccessCheck(ac_logged_in)) return;
4966         extract_token(addr, argbuf, 0, '|', sizeof addr);
4967
4968         if (CtdlIsMe(addr, sizeof addr)) {
4969                 cprintf("%d %s\n", CIT_OK, addr);
4970         }
4971         else {
4972                 cprintf("%d Not you.\n", ERROR + ILLEGAL_VALUE);
4973         }
4974
4975 }
4976
4977
4978 /*****************************************************************************/
4979 /*                      MODULE INITIALIZATION STUFF                          */
4980 /*****************************************************************************/
4981
4982 CTDL_MODULE_INIT(msgbase)
4983 {
4984         if (!threading) {
4985                 CtdlRegisterProtoHook(cmd_msgs, "MSGS", "Output a list of messages in the current room");
4986                 CtdlRegisterProtoHook(cmd_msg0, "MSG0", "Output a message in plain text format");
4987                 CtdlRegisterProtoHook(cmd_msg2, "MSG2", "Output a message in RFC822 format");
4988                 CtdlRegisterProtoHook(cmd_msg3, "MSG3", "Output a message in raw format (deprecated)");
4989                 CtdlRegisterProtoHook(cmd_msg4, "MSG4", "Output a message in the client's preferred format");
4990                 CtdlRegisterProtoHook(cmd_msgp, "MSGP", "Select preferred format for MSG4 output");
4991                 CtdlRegisterProtoHook(cmd_opna, "OPNA", "Open an attachment for download");
4992                 CtdlRegisterProtoHook(cmd_dlat, "DLAT", "Download an attachment");
4993                 CtdlRegisterProtoHook(cmd_ent0, "ENT0", "Enter a message");
4994                 CtdlRegisterProtoHook(cmd_dele, "DELE", "Delete a message");
4995                 CtdlRegisterProtoHook(cmd_move, "MOVE", "Move or copy a message to another room");
4996                 CtdlRegisterProtoHook(cmd_isme, "ISME", "Determine whether an email address belongs to a user");
4997         }
4998
4999         /* return our Subversion id for the Log */
5000         return "msgbase";
5001 }