]> code.citadel.org Git - citadel.git/blob - libcitadel/lib/stringbuf.c
* upsi forgot debug code..
[citadel.git] / libcitadel / lib / stringbuf.c
1 #include "../sysdep.h"
2 #include <ctype.h>
3 #include <errno.h>
4 #include <string.h>
5 #include <unistd.h>
6 #include <string.h>
7 #include <stdio.h>
8 #include <sys/select.h>
9 #include <fcntl.h>
10 #include <sys/types.h>
11 #define SHOW_ME_VAPPEND_PRINTF
12 #include <stdarg.h>
13 #include "libcitadel.h"
14
15 #ifdef HAVE_ICONV
16 #include <iconv.h>
17 #endif
18
19 #if HAVE_BACKTRACE
20 #include <execinfo.h>
21 #endif
22
23 #ifdef HAVE_ZLIB
24 #include <zlib.h>
25 int ZEXPORT compress_gzip(Bytef * dest, size_t * destLen,
26                           const Bytef * source, uLong sourceLen, int level);
27 #endif
28 int BaseStrBufSize = 64;
29
30 /**
31  * Private Structure for the Stringbuffer
32  */
33 struct StrBuf {
34         char *buf;         /**< the pointer to the dynamic buffer */
35         long BufSize;      /**< how many spcae do we optain */
36         long BufUsed;      /**< StNumber of Chars used excluding the trailing \0 */
37         int ConstBuf;      /**< are we just a wrapper arround a static buffer and musn't we be changed? */
38 #ifdef SIZE_DEBUG
39         long nIncreases;
40         char bt [SIZ];
41         char bt_lastinc [SIZ];
42 #endif
43 };
44
45 #ifdef SIZE_DEBUG
46 #if HAVE_BACKTRACE
47 static void StrBufBacktrace(StrBuf *Buf, int which)
48 {
49         int n;
50         char *pstart, *pch;
51         void *stack_frames[50];
52         size_t size, i;
53         char **strings;
54
55         if (which)
56                 pstart = pch = Buf->bt;
57         else
58                 pstart = pch = Buf->bt_lastinc;
59         size = backtrace(stack_frames, sizeof(stack_frames) / sizeof(void*));
60         strings = backtrace_symbols(stack_frames, size);
61         for (i = 0; i < size; i++) {
62                 if (strings != NULL)
63                         n = snprintf(pch, SIZ - (pch - pstart), "%s\\n", strings[i]);
64                 else
65                         n = snprintf(pch, SIZ - (pch - pstart), "%p\\n", stack_frames[i]);
66                 pch += n;
67         }
68         free(strings);
69
70
71 }
72 #endif
73 #endif
74
75 /** 
76  * \Brief Cast operator to Plain String 
77  * Note: if the buffer is altered by StrBuf operations, this pointer may become 
78  *  invalid. So don't lean on it after altering the buffer!
79  *  Since this operation is considered cheap, rather call it often than risking
80  *  your pointer to become invalid!
81  * \param Str the string we want to get the c-string representation for
82  * \returns the Pointer to the Content. Don't mess with it!
83  */
84 inline const char *ChrPtr(const StrBuf *Str)
85 {
86         if (Str == NULL)
87                 return "";
88         return Str->buf;
89 }
90
91 /**
92  * \brief since we know strlen()'s result, provide it here.
93  * \param Str the string to return the length to
94  * \returns contentlength of the buffer
95  */
96 inline int StrLength(const StrBuf *Str)
97 {
98         return (Str != NULL) ? Str->BufUsed : 0;
99 }
100
101 /**
102  * \brief local utility function to resize the buffer
103  * \param Buf the buffer whichs storage we should increase
104  * \param KeepOriginal should we copy the original buffer or just start over with a new one
105  * \param DestSize what should fit in after?
106  */
107 static int IncreaseBuf(StrBuf *Buf, int KeepOriginal, int DestSize)
108 {
109         char *NewBuf;
110         size_t NewSize = Buf->BufSize * 2;
111
112         if (Buf->ConstBuf)
113                 return -1;
114                 
115         if (DestSize > 0)
116                 while (NewSize <= DestSize)
117                         NewSize *= 2;
118
119         NewBuf= (char*) malloc(NewSize);
120         if (NewBuf == NULL)
121                 return -1;
122
123         if (KeepOriginal && (Buf->BufUsed > 0))
124         {
125                 memcpy(NewBuf, Buf->buf, Buf->BufUsed);
126         }
127         else
128         {
129                 NewBuf[0] = '\0';
130                 Buf->BufUsed = 0;
131         }
132         free (Buf->buf);
133         Buf->buf = NewBuf;
134         Buf->BufSize = NewSize;
135 #ifdef SIZE_DEBUG
136         Buf->nIncreases++;
137 #if HAVE_BACKTRACE
138         StrBufBacktrace(Buf, 1);
139 #endif
140 #endif
141         return Buf->BufSize;
142 }
143
144 /**
145  * \brief shrink an _EMPTY_ buffer if its Buffer superseeds threshhold to NewSize. Buffercontent is thoroughly ignored and flushed.
146  * \param Buf Buffer to shrink (has to be empty)
147  * \param ThreshHold if the buffer is bigger then this, its readjusted
148  * \param NewSize if we Shrink it, how big are we going to be afterwards?
149  */
150 void ReAdjustEmptyBuf(StrBuf *Buf, long ThreshHold, long NewSize)
151 {
152         if (Buf->BufUsed > ThreshHold) {
153                 free(Buf->buf);
154                 Buf->buf = (char*) malloc(NewSize);
155                 Buf->BufUsed = 0;
156                 Buf->BufSize = NewSize;
157         }
158 }
159
160 /**
161  * \brief shrink long term buffers to their real size so they don't waste memory
162  * \param Buf buffer to shrink
163  * \param Force if not set, will just executed if the buffer is much to big; set for lifetime strings
164  * \returns physical size of the buffer
165  */
166 long StrBufShrinkToFit(StrBuf *Buf, int Force)
167 {
168         if (Force || 
169             (Buf->BufUsed + (Buf->BufUsed / 3) > Buf->BufSize))
170         {
171                 char *TmpBuf = (char*) malloc(Buf->BufUsed + 1);
172                 memcpy (TmpBuf, Buf->buf, Buf->BufUsed + 1);
173                 Buf->BufSize = Buf->BufUsed + 1;
174                 free(Buf->buf);
175                 Buf->buf = TmpBuf;
176         }
177         return Buf->BufUsed;
178 }
179
180 /**
181  * Allocate a new buffer with default buffer size
182  * \returns the new stringbuffer
183  */
184 StrBuf* NewStrBuf(void)
185 {
186         StrBuf *NewBuf;
187
188         NewBuf = (StrBuf*) malloc(sizeof(StrBuf));
189         NewBuf->buf = (char*) malloc(BaseStrBufSize);
190         NewBuf->buf[0] = '\0';
191         NewBuf->BufSize = BaseStrBufSize;
192         NewBuf->BufUsed = 0;
193         NewBuf->ConstBuf = 0;
194 #ifdef SIZE_DEBUG
195         NewBuf->nIncreases = 0;
196         NewBuf->bt[0] = '\0';
197         NewBuf->bt_lastinc[0] = '\0';
198 #if HAVE_BACKTRACE
199         StrBufBacktrace(NewBuf, 0);
200 #endif
201 #endif
202         return NewBuf;
203 }
204
205 /** 
206  * \brief Copy Constructor; returns a duplicate of CopyMe
207  * \params CopyMe Buffer to faxmilate
208  * \returns the new stringbuffer
209  */
210 StrBuf* NewStrBufDup(const StrBuf *CopyMe)
211 {
212         StrBuf *NewBuf;
213         
214         if (CopyMe == NULL)
215                 return NewStrBuf();
216
217         NewBuf = (StrBuf*) malloc(sizeof(StrBuf));
218         NewBuf->buf = (char*) malloc(CopyMe->BufSize);
219         memcpy(NewBuf->buf, CopyMe->buf, CopyMe->BufUsed + 1);
220         NewBuf->BufUsed = CopyMe->BufUsed;
221         NewBuf->BufSize = CopyMe->BufSize;
222         NewBuf->ConstBuf = 0;
223 #ifdef SIZE_DEBUG
224         NewBuf->nIncreases = 0;
225         NewBuf->bt[0] = '\0';
226         NewBuf->bt_lastinc[0] = '\0';
227 #if HAVE_BACKTRACE
228         StrBufBacktrace(NewBuf, 0);
229 #endif
230 #endif
231         return NewBuf;
232 }
233
234 /**
235  * \brief create a new Buffer using an existing c-string
236  * this function should also be used if you want to pre-suggest
237  * the buffer size to allocate in conjunction with ptr == NULL
238  * \param ptr the c-string to copy; may be NULL to create a blank instance
239  * \param nChars How many chars should we copy; -1 if we should measure the length ourselves
240  * \returns the new stringbuffer
241  */
242 StrBuf* NewStrBufPlain(const char* ptr, int nChars)
243 {
244         StrBuf *NewBuf;
245         size_t Siz = BaseStrBufSize;
246         size_t CopySize;
247
248         NewBuf = (StrBuf*) malloc(sizeof(StrBuf));
249         if (nChars < 0)
250                 CopySize = strlen((ptr != NULL)?ptr:"");
251         else
252                 CopySize = nChars;
253
254         while (Siz <= CopySize)
255                 Siz *= 2;
256
257         NewBuf->buf = (char*) malloc(Siz);
258         NewBuf->BufSize = Siz;
259         if (ptr != NULL) {
260                 memcpy(NewBuf->buf, ptr, CopySize);
261                 NewBuf->buf[CopySize] = '\0';
262                 NewBuf->BufUsed = CopySize;
263         }
264         else {
265                 NewBuf->buf[0] = '\0';
266                 NewBuf->BufUsed = 0;
267         }
268         NewBuf->ConstBuf = 0;
269 #ifdef SIZE_DEBUG
270         NewBuf->nIncreases = 0;
271         NewBuf->bt[0] = '\0';
272         NewBuf->bt_lastinc[0] = '\0';
273 #if HAVE_BACKTRACE
274         StrBufBacktrace(NewBuf, 0);
275 #endif
276 #endif
277         return NewBuf;
278 }
279
280 /**
281  * \brief Set an existing buffer from a c-string
282  * \param ptr c-string to put into 
283  * \param nChars set to -1 if we should work 0-terminated
284  * \returns the new length of the string
285  */
286 int StrBufPlain(StrBuf *Buf, const char* ptr, int nChars)
287 {
288         size_t Siz = Buf->BufSize;
289         size_t CopySize;
290
291         if (nChars < 0)
292                 CopySize = strlen(ptr);
293         else
294                 CopySize = nChars;
295
296         while (Siz <= CopySize)
297                 Siz *= 2;
298
299         if (Siz != Buf->BufSize)
300                 IncreaseBuf(Buf, 0, Siz);
301         memcpy(Buf->buf, ptr, CopySize);
302         Buf->buf[CopySize] = '\0';
303         Buf->BufUsed = CopySize;
304         Buf->ConstBuf = 0;
305         return CopySize;
306 }
307
308
309 /**
310  * \brief use strbuf as wrapper for a string constant for easy handling
311  * \param StringConstant a string to wrap
312  * \param SizeOfConstant should be sizeof(StringConstant)-1
313  */
314 StrBuf* _NewConstStrBuf(const char* StringConstant, size_t SizeOfStrConstant)
315 {
316         StrBuf *NewBuf;
317
318         NewBuf = (StrBuf*) malloc(sizeof(StrBuf));
319         NewBuf->buf = (char*) StringConstant;
320         NewBuf->BufSize = SizeOfStrConstant;
321         NewBuf->BufUsed = SizeOfStrConstant;
322         NewBuf->ConstBuf = 1;
323 #ifdef SIZE_DEBUG
324         NewBuf->nIncreases = 0;
325         NewBuf->bt[0] = '\0';
326         NewBuf->bt_lastinc[0] = '\0';
327 #endif
328         return NewBuf;
329 }
330
331
332 /**
333  * \brief flush the content of a Buf; keep its struct
334  * \param buf Buffer to flush
335  */
336 int FlushStrBuf(StrBuf *buf)
337 {
338         if (buf == NULL)
339                 return -1;
340         if (buf->ConstBuf)
341                 return -1;       
342         buf->buf[0] ='\0';
343         buf->BufUsed = 0;
344         return 0;
345 }
346
347 /**
348  * \brief wipe the content of a Buf thoroughly (overwrite it -> expensive); keep its struct
349  * \param buf Buffer to wipe
350  */
351 int FLUSHStrBuf(StrBuf *buf)
352 {
353         if (buf == NULL)
354                 return -1;
355         if (buf->ConstBuf)
356                 return -1;
357         if (buf->BufUsed > 0) {
358                 memset(buf->buf, 0, buf->BufUsed);
359                 buf->BufUsed = 0;
360         }
361         return 0;
362 }
363
364 #ifdef SIZE_DEBUG
365 int hFreeDbglog = -1;
366 #endif
367 /**
368  * \brief Release a Buffer
369  * Its a double pointer, so it can NULL your pointer
370  * so fancy SIG11 appear instead of random results
371  * \param FreeMe Pointer Pointer to the buffer to free
372  */
373 void FreeStrBuf (StrBuf **FreeMe)
374 {
375         if (*FreeMe == NULL)
376                 return;
377 #ifdef SIZE_DEBUG
378         if (hFreeDbglog == -1){
379                 pid_t pid = getpid();
380                 char path [SIZ];
381                 snprintf(path, SIZ, "/tmp/libcitadel_strbuf_realloc.log.%d", pid);
382                 hFreeDbglog = open(path, O_APPEND|O_CREAT|O_WRONLY);
383         }
384         if ((*FreeMe)->nIncreases > 0)
385         {
386                 char buf[SIZ * 3];
387                 long n;
388                 n = snprintf(buf, SIZ * 3, "+|%ld|%ld|%ld|%s|%s|\n",
389                              (*FreeMe)->nIncreases,
390                              (*FreeMe)->BufUsed,
391                              (*FreeMe)->BufSize,
392                              (*FreeMe)->bt,
393                              (*FreeMe)->bt_lastinc);
394                 n = write(hFreeDbglog, buf, n);
395         }
396         else
397         {
398                 char buf[128];
399                 long n;
400                 n = snprintf(buf, 128, "_|0|%ld%ld|\n",
401                              (*FreeMe)->BufUsed,
402                              (*FreeMe)->BufSize);
403                 n = write(hFreeDbglog, buf, n);
404         }
405 #endif
406         if (!(*FreeMe)->ConstBuf) 
407                 free((*FreeMe)->buf);
408         free(*FreeMe);
409         *FreeMe = NULL;
410 }
411
412 /**
413  * \brief Release the buffer
414  * If you want put your StrBuf into a Hash, use this as Destructor.
415  * \param VFreeMe untyped pointer to a StrBuf. be shure to do the right thing [TM]
416  */
417 void HFreeStrBuf (void *VFreeMe)
418 {
419         StrBuf *FreeMe = (StrBuf*)VFreeMe;
420         if (FreeMe == NULL)
421                 return;
422 #ifdef SIZE_DEBUG
423         if (hFreeDbglog == -1){
424                 pid_t pid = getpid();
425                 char path [SIZ];
426                 snprintf(path, SIZ, "/tmp/libcitadel_strbuf_realloc.log.%d", pid);
427                 hFreeDbglog = open(path, O_APPEND|O_CREAT|O_WRONLY);
428         }
429         if (FreeMe->nIncreases > 0)
430         {
431                 char buf[SIZ * 3];
432                 long n;
433                 n = snprintf(buf, SIZ * 3, "+|%ld|%ld|%ld|%s|%s|\n",
434                              FreeMe->nIncreases,
435                              FreeMe->BufUsed,
436                              FreeMe->BufSize,
437                              FreeMe->bt,
438                              FreeMe->bt_lastinc);
439                 write(hFreeDbglog, buf, n);
440         }
441         else
442         {
443                 char buf[128];
444                 long n;
445                 n = snprintf(buf, 128, "_|%ld|%ld%ld|\n",
446                              FreeMe->nIncreases,
447                              FreeMe->BufUsed,
448                              FreeMe->BufSize);
449         }
450 #endif
451         if (!FreeMe->ConstBuf) 
452                 free(FreeMe->buf);
453         free(FreeMe);
454 }
455
456 /**
457  * \brief Wrapper around atol
458  */
459 long StrTol(const StrBuf *Buf)
460 {
461         if (Buf == NULL)
462                 return 0;
463         if(Buf->BufUsed > 0)
464                 return atol(Buf->buf);
465         else
466                 return 0;
467 }
468
469 /**
470  * \brief Wrapper around atoi
471  */
472 int StrToi(const StrBuf *Buf)
473 {
474         if (Buf == NULL)
475                 return 0;
476         if (Buf->BufUsed > 0)
477                 return atoi(Buf->buf);
478         else
479                 return 0;
480 }
481
482 /**
483  * \brief Checks to see if the string is a pure number 
484  */
485 int StrBufIsNumber(const StrBuf *Buf) {
486   char * pEnd;
487   if (Buf == NULL) {
488         return 0;
489   }
490   strtoll(Buf->buf, &pEnd, 10);
491   if (pEnd == NULL && ((Buf->buf)-pEnd) != 0) {
492     return 1;
493   }
494   return 0;
495
496 /**
497  * \brief modifies a Single char of the Buf
498  * You can point to it via char* or a zero-based integer
499  * \param ptr char* to zero; use NULL if unused
500  * \param nThChar zero based pointer into the string; use -1 if unused
501  * \param PeekValue The Character to place into the position
502  */
503 long StrBufPeek(StrBuf *Buf, const char* ptr, long nThChar, char PeekValue)
504 {
505         if (Buf == NULL)
506                 return -1;
507         if (ptr != NULL)
508                 nThChar = ptr - Buf->buf;
509         if ((nThChar < 0) || (nThChar > Buf->BufUsed))
510                 return -1;
511         Buf->buf[nThChar] = PeekValue;
512         return nThChar;
513 }
514
515 /**
516  * \brief Append a StringBuffer to the buffer
517  * \param Buf Buffer to modify
518  * \param AppendBuf Buffer to copy at the end of our buffer
519  * \param Offset Should we start copying from an offset?
520  */
521 void StrBufAppendBuf(StrBuf *Buf, const StrBuf *AppendBuf, unsigned long Offset)
522 {
523         if ((AppendBuf == NULL) || (Buf == NULL) || (AppendBuf->buf == NULL))
524                 return;
525
526         if (Buf->BufSize - Offset < AppendBuf->BufUsed + Buf->BufUsed + 1)
527                 IncreaseBuf(Buf, 
528                             (Buf->BufUsed > 0), 
529                             AppendBuf->BufUsed + Buf->BufUsed);
530
531         memcpy(Buf->buf + Buf->BufUsed, 
532                AppendBuf->buf + Offset, 
533                AppendBuf->BufUsed - Offset);
534         Buf->BufUsed += AppendBuf->BufUsed - Offset;
535         Buf->buf[Buf->BufUsed] = '\0';
536 }
537
538
539 /**
540  * \brief Append a C-String to the buffer
541  * \param Buf Buffer to modify
542  * \param AppendBuf Buffer to copy at the end of our buffer
543  * \param AppendSize number of bytes to copy; set to -1 if we should count it in advance
544  * \param Offset Should we start copying from an offset?
545  */
546 void StrBufAppendBufPlain(StrBuf *Buf, const char *AppendBuf, long AppendSize, unsigned long Offset)
547 {
548         long aps;
549         long BufSizeRequired;
550
551         if ((AppendBuf == NULL) || (Buf == NULL))
552                 return;
553
554         if (AppendSize < 0 )
555                 aps = strlen(AppendBuf + Offset);
556         else
557                 aps = AppendSize - Offset;
558
559         BufSizeRequired = Buf->BufUsed + aps + 1;
560         if (Buf->BufSize <= BufSizeRequired)
561                 IncreaseBuf(Buf, (Buf->BufUsed > 0), BufSizeRequired);
562
563         memcpy(Buf->buf + Buf->BufUsed, 
564                AppendBuf + Offset, 
565                aps);
566         Buf->BufUsed += aps;
567         Buf->buf[Buf->BufUsed] = '\0';
568 }
569
570 /**
571  * \brief Callback for cURL to append the webserver reply to a buffer
572  * params pre-defined by the cURL API; see man 3 curl for mre info
573  */
574 size_t CurlFillStrBuf_callback(void *ptr, size_t size, size_t nmemb, void *stream)
575 {
576
577         StrBuf *Target;
578
579         Target = stream;
580         if (ptr == NULL)
581                 return 0;
582
583         StrBufAppendBufPlain(Target, ptr, size * nmemb, 0);
584         return size * nmemb;
585 }
586
587
588 /** 
589  * \brief Escape a string for feeding out as a URL while appending it to a Buffer
590  * \param outbuf the output buffer
591  * \param oblen the size of outbuf to sanitize
592  * \param strbuf the input buffer
593  */
594 void StrBufUrlescAppend(StrBuf *OutBuf, const StrBuf *In, const char *PlainIn)
595 {
596         const char *pch, *pche;
597         char *pt, *pte;
598         int b, c, len;
599         const char ec[] = " +#&;`'|*?-~<>^()[]{}/$\"\\";
600         int eclen = sizeof(ec) -1;
601
602         if (((In == NULL) && (PlainIn == NULL)) || (OutBuf == NULL) )
603                 return;
604         if (PlainIn != NULL) {
605                 len = strlen(PlainIn);
606                 pch = PlainIn;
607                 pche = pch + len;
608         }
609         else {
610                 pch = In->buf;
611                 pche = pch + In->BufUsed;
612                 len = In->BufUsed;
613         }
614
615         if (len == 0) 
616                 return;
617
618         pt = OutBuf->buf + OutBuf->BufUsed;
619         pte = OutBuf->buf + OutBuf->BufSize - 4; /**< we max append 3 chars at once plus the \0 */
620
621         while (pch < pche) {
622                 if (pt >= pte) {
623                         IncreaseBuf(OutBuf, 1, -1);
624                         pte = OutBuf->buf + OutBuf->BufSize - 4; /**< we max append 3 chars at once plus the \0 */
625                         pt = OutBuf->buf + OutBuf->BufUsed;
626                 }
627                 
628                 c = 0;
629                 for (b = 0; b < eclen; ++b) {
630                         if (*pch == ec[b]) {
631                                 c = 1;
632                                 b += eclen;
633                         }
634                 }
635                 if (c == 1) {
636                         sprintf(pt,"%%%02X", *pch);
637                         pt += 3;
638                         OutBuf->BufUsed += 3;
639                         pch ++;
640                 }
641                 else {
642                         *(pt++) = *(pch++);
643                         OutBuf->BufUsed++;
644                 }
645         }
646         *pt = '\0';
647 }
648
649 /*
650  * \brief Append a string, escaping characters which have meaning in HTML.  
651  *
652  * \param Target        target buffer
653  * \param Source        source buffer; set to NULL if you just have a C-String
654  * \param PlainIn       Plain-C string to append; set to NULL if unused
655  * \param nbsp          If nonzero, spaces are converted to non-breaking spaces.
656  * \param nolinebreaks  if set to 1, linebreaks are removed from the string.
657  *                      if set to 2, linebreaks are replaced by &ltbr/&gt
658  */
659 long StrEscAppend(StrBuf *Target, const StrBuf *Source, const char *PlainIn, int nbsp, int nolinebreaks)
660 {
661         const char *aptr, *eiptr;
662         char *bptr, *eptr;
663         long len;
664
665         if (((Source == NULL) && (PlainIn == NULL)) || (Target == NULL) )
666                 return -1;
667
668         if (PlainIn != NULL) {
669                 aptr = PlainIn;
670                 len = strlen(PlainIn);
671                 eiptr = aptr + len;
672         }
673         else {
674                 aptr = Source->buf;
675                 eiptr = aptr + Source->BufUsed;
676                 len = Source->BufUsed;
677         }
678
679         if (len == 0) 
680                 return -1;
681
682         bptr = Target->buf + Target->BufUsed;
683         eptr = Target->buf + Target->BufSize - 11; /* our biggest unit to put in...  */
684
685         while (aptr < eiptr){
686                 if(bptr >= eptr) {
687                         IncreaseBuf(Target, 1, -1);
688                         eptr = Target->buf + Target->BufSize - 11; /* our biggest unit to put in...  */
689                         bptr = Target->buf + Target->BufUsed;
690                 }
691                 if (*aptr == '<') {
692                         memcpy(bptr, "&lt;", 4);
693                         bptr += 4;
694                         Target->BufUsed += 4;
695                 }
696                 else if (*aptr == '>') {
697                         memcpy(bptr, "&gt;", 4);
698                         bptr += 4;
699                         Target->BufUsed += 4;
700                 }
701                 else if (*aptr == '&') {
702                         memcpy(bptr, "&amp;", 5);
703                         bptr += 5;
704                         Target->BufUsed += 5;
705                 }
706                 else if (*aptr == '"') {
707                         memcpy(bptr, "&quot;", 6);
708                         bptr += 6;
709                         Target->BufUsed += 6;
710                 }
711                 else if (*aptr == '\'') {
712                         memcpy(bptr, "&#39;", 5);
713                         bptr += 5;
714                         Target->BufUsed += 5;
715                 }
716                 else if (*aptr == LB) {
717                         *bptr = '<';
718                         bptr ++;
719                         Target->BufUsed ++;
720                 }
721                 else if (*aptr == RB) {
722                         *bptr = '>';
723                         bptr ++;
724                         Target->BufUsed ++;
725                 }
726                 else if (*aptr == QU) {
727                         *bptr ='"';
728                         bptr ++;
729                         Target->BufUsed ++;
730                 }
731                 else if ((*aptr == 32) && (nbsp == 1)) {
732                         memcpy(bptr, "&nbsp;", 6);
733                         bptr += 6;
734                         Target->BufUsed += 6;
735                 }
736                 else if ((*aptr == '\n') && (nolinebreaks == 1)) {
737                         *bptr='\0';     /* nothing */
738                 }
739                 else if ((*aptr == '\n') && (nolinebreaks == 2)) {
740                         memcpy(bptr, "&lt;br/&gt;", 11);
741                         bptr += 11;
742                         Target->BufUsed += 11;
743                 }
744
745
746                 else if ((*aptr == '\r') && (nolinebreaks != 0)) {
747                         *bptr='\0';     /* nothing */
748                 }
749                 else{
750                         *bptr = *aptr;
751                         bptr++;
752                         Target->BufUsed ++;
753                 }
754                 aptr ++;
755         }
756         *bptr = '\0';
757         if ((bptr = eptr - 1 ) && !IsEmptyStr(aptr) )
758                 return -1;
759         return Target->BufUsed;
760 }
761
762 /*
763  * \brief Append a string, escaping characters which have meaning in HTML.  
764  * Converts linebreaks into blanks; escapes single quotes
765  * \param Target        target buffer
766  * \param Source        source buffer; set to NULL if you just have a C-String
767  * \param PlainIn       Plain-C string to append; set to NULL if unused
768  */
769 void StrMsgEscAppend(StrBuf *Target, const StrBuf *Source, const char *PlainIn)
770 {
771         const char *aptr, *eiptr;
772         char *tptr, *eptr;
773         long len;
774
775         if (((Source == NULL) && (PlainIn == NULL)) || (Target == NULL) )
776                 return ;
777
778         if (PlainIn != NULL) {
779                 aptr = PlainIn;
780                 len = strlen(PlainIn);
781                 eiptr = aptr + len;
782         }
783         else {
784                 aptr = Source->buf;
785                 eiptr = aptr + Source->BufUsed;
786                 len = Source->BufUsed;
787         }
788
789         if (len == 0) 
790                 return;
791
792         eptr = Target->buf + Target->BufSize - 8; 
793         tptr = Target->buf + Target->BufUsed;
794         
795         while (aptr < eiptr){
796                 if(tptr >= eptr) {
797                         IncreaseBuf(Target, 1, -1);
798                         eptr = Target->buf + Target->BufSize - 8; 
799                         tptr = Target->buf + Target->BufUsed;
800                 }
801                
802                 if (*aptr == '\n') {
803                         *tptr = ' ';
804                         Target->BufUsed++;
805                 }
806                 else if (*aptr == '\r') {
807                         *tptr = ' ';
808                         Target->BufUsed++;
809                 }
810                 else if (*aptr == '\'') {
811                         *(tptr++) = '&';
812                         *(tptr++) = '#';
813                         *(tptr++) = '3';
814                         *(tptr++) = '9';
815                         *tptr = ';';
816                         Target->BufUsed += 5;
817                 } else {
818                         *tptr = *aptr;
819                         Target->BufUsed++;
820                 }
821                 tptr++; aptr++;
822         }
823         *tptr = '\0';
824 }
825
826
827
828 /*
829  * \brief Append a string, escaping characters which have meaning in ICAL.  
830  * [\n,] 
831  * \param Target        target buffer
832  * \param Source        source buffer; set to NULL if you just have a C-String
833  * \param PlainIn       Plain-C string to append; set to NULL if unused
834  */
835 void StrIcalEscAppend(StrBuf *Target, const StrBuf *Source, const char *PlainIn)
836 {
837         const char *aptr, *eiptr;
838         char *tptr, *eptr;
839         long len;
840
841         if (((Source == NULL) && (PlainIn == NULL)) || (Target == NULL) )
842                 return ;
843
844         if (PlainIn != NULL) {
845                 aptr = PlainIn;
846                 len = strlen(PlainIn);
847                 eiptr = aptr + len;
848         }
849         else {
850                 aptr = Source->buf;
851                 eiptr = aptr + Source->BufUsed;
852                 len = Source->BufUsed;
853         }
854
855         if (len == 0) 
856                 return;
857
858         eptr = Target->buf + Target->BufSize - 8; 
859         tptr = Target->buf + Target->BufUsed;
860         
861         while (aptr < eiptr){
862                 if(tptr + 3 >= eptr) {
863                         IncreaseBuf(Target, 1, -1);
864                         eptr = Target->buf + Target->BufSize - 8; 
865                         tptr = Target->buf + Target->BufUsed;
866                 }
867                
868                 if (*aptr == '\n') {
869                         *tptr = '\\';
870                         Target->BufUsed++;
871                         tptr++;
872                         *tptr = 'n';
873                         Target->BufUsed++;
874                 }
875                 else if (*aptr == '\r') {
876                         *tptr = '\\';
877                         Target->BufUsed++;
878                         tptr++;
879                         *tptr = 'r';
880                         Target->BufUsed++;
881                 }
882                 else if (*aptr == ',') {
883                         *tptr = '\\';
884                         Target->BufUsed++;
885                         tptr++;
886                         *tptr = ',';
887                         Target->BufUsed++;
888                 } else {
889                         *tptr = *aptr;
890                         Target->BufUsed++;
891                 }
892                 tptr++; aptr++;
893         }
894         *tptr = '\0';
895 }
896
897 /*
898  * \brief Append a string, escaping characters which have meaning in JavaScript strings .  
899  *
900  * \param Target        target buffer
901  * \param Source        source buffer; set to NULL if you just have a C-String
902  * \param PlainIn       Plain-C string to append; set to NULL if unused
903  */
904 long StrECMAEscAppend(StrBuf *Target, const StrBuf *Source, const char *PlainIn)
905 {
906         const char *aptr, *eiptr;
907         char *bptr, *eptr;
908         long len;
909
910         if (((Source == NULL) && (PlainIn == NULL)) || (Target == NULL) )
911                 return -1;
912
913         if (PlainIn != NULL) {
914                 aptr = PlainIn;
915                 len = strlen(PlainIn);
916                 eiptr = aptr + len;
917         }
918         else {
919                 aptr = Source->buf;
920                 eiptr = aptr + Source->BufUsed;
921                 len = Source->BufUsed;
922         }
923
924         if (len == 0) 
925                 return -1;
926
927         bptr = Target->buf + Target->BufUsed;
928         eptr = Target->buf + Target->BufSize - 3; /* our biggest unit to put in...  */
929
930         while (aptr < eiptr){
931                 if(bptr >= eptr) {
932                         IncreaseBuf(Target, 1, -1);
933                         eptr = Target->buf + Target->BufSize - 3; 
934                         bptr = Target->buf + Target->BufUsed;
935                 }
936                 if (*aptr == '"') {
937                         *bptr = '\\';
938                         bptr ++;
939                         *bptr = '"';
940                         bptr ++;
941                         Target->BufUsed += 2;
942                 } else if (*aptr == '\\') {
943                         *bptr = '\\';
944                         bptr ++;
945                         *bptr = '\\';
946                         bptr ++;
947                         Target->BufUsed += 2;
948                 }
949                 else{
950                         *bptr = *aptr;
951                         bptr++;
952                         Target->BufUsed ++;
953                 }
954                 aptr ++;
955         }
956         *bptr = '\0';
957         if ((bptr == eptr - 1 ) && !IsEmptyStr(aptr) )
958                 return -1;
959         return Target->BufUsed;
960 }
961
962 /**
963  * \brief extracts a substring from Source into dest
964  * \param dest buffer to place substring into
965  * \param Source string to copy substring from
966  * \param Offset chars to skip from start
967  * \param nChars number of chars to copy
968  * \returns the number of chars copied; may be different from nChars due to the size of Source
969  */
970 int StrBufSub(StrBuf *dest, const StrBuf *Source, unsigned long Offset, size_t nChars)
971 {
972         size_t NCharsRemain;
973         if (Offset > Source->BufUsed)
974         {
975                 FlushStrBuf(dest);
976                 return 0;
977         }
978         if (Offset + nChars < Source->BufUsed)
979         {
980                 if (nChars >= dest->BufSize)
981                         IncreaseBuf(dest, 0, nChars + 1);
982                 memcpy(dest->buf, Source->buf + Offset, nChars);
983                 dest->BufUsed = nChars;
984                 dest->buf[dest->BufUsed] = '\0';
985                 return nChars;
986         }
987         NCharsRemain = Source->BufUsed - Offset;
988         if (NCharsRemain  >= dest->BufSize)
989                 IncreaseBuf(dest, 0, NCharsRemain + 1);
990         memcpy(dest->buf, Source->buf + Offset, NCharsRemain);
991         dest->BufUsed = NCharsRemain;
992         dest->buf[dest->BufUsed] = '\0';
993         return NCharsRemain;
994 }
995
996 /**
997  * \brief sprintf like function appending the formated string to the buffer
998  * vsnprintf version to wrap into own calls
999  * \param Buf Buffer to extend by format and params
1000  * \param format printf alike format to add
1001  * \param ap va_list containing the items for format
1002  */
1003 void StrBufVAppendPrintf(StrBuf *Buf, const char *format, va_list ap)
1004 {
1005         va_list apl;
1006         size_t BufSize = Buf->BufSize;
1007         size_t nWritten = Buf->BufSize + 1;
1008         size_t Offset = Buf->BufUsed;
1009         size_t newused = Offset + nWritten;
1010         
1011         while (newused >= BufSize) {
1012                 va_copy(apl, ap);
1013                 nWritten = vsnprintf(Buf->buf + Offset, 
1014                                      Buf->BufSize - Offset, 
1015                                      format, apl);
1016                 va_end(apl);
1017                 newused = Offset + nWritten;
1018                 if (newused >= Buf->BufSize) {
1019                         IncreaseBuf(Buf, 1, newused);
1020                         newused = Buf->BufSize + 1;
1021                 }
1022                 else {
1023                         Buf->BufUsed = Offset + nWritten;
1024                         BufSize = Buf->BufSize;
1025                 }
1026
1027         }
1028 }
1029
1030 /**
1031  * \brief sprintf like function appending the formated string to the buffer
1032  * \param Buf Buffer to extend by format and params
1033  * \param format printf alike format to add
1034  * \param ap va_list containing the items for format
1035  */
1036 void StrBufAppendPrintf(StrBuf *Buf, const char *format, ...)
1037 {
1038         size_t BufSize = Buf->BufSize;
1039         size_t nWritten = Buf->BufSize + 1;
1040         size_t Offset = Buf->BufUsed;
1041         size_t newused = Offset + nWritten;
1042         va_list arg_ptr;
1043         
1044         while (newused >= BufSize) {
1045                 va_start(arg_ptr, format);
1046                 nWritten = vsnprintf(Buf->buf + Buf->BufUsed, 
1047                                      Buf->BufSize - Buf->BufUsed, 
1048                                      format, arg_ptr);
1049                 va_end(arg_ptr);
1050                 newused = Buf->BufUsed + nWritten;
1051                 if (newused >= Buf->BufSize) {
1052                         IncreaseBuf(Buf, 1, newused);
1053                         newused = Buf->BufSize + 1;
1054                 }
1055                 else {
1056                         Buf->BufUsed += nWritten;
1057                         BufSize = Buf->BufSize;
1058                 }
1059
1060         }
1061 }
1062
1063 /**
1064  * \brief sprintf like function putting the formated string into the buffer
1065  * \param Buf Buffer to extend by format and params
1066  * \param format printf alike format to add
1067  * \param ap va_list containing the items for format
1068  */
1069 void StrBufPrintf(StrBuf *Buf, const char *format, ...)
1070 {
1071         size_t nWritten = Buf->BufSize + 1;
1072         va_list arg_ptr;
1073         
1074         while (nWritten >= Buf->BufSize) {
1075                 va_start(arg_ptr, format);
1076                 nWritten = vsnprintf(Buf->buf, Buf->BufSize, format, arg_ptr);
1077                 va_end(arg_ptr);
1078                 if (nWritten >= Buf->BufSize) {
1079                         IncreaseBuf(Buf, 0, 0);
1080                         nWritten = Buf->BufSize + 1;
1081                         continue;
1082                 }
1083                 Buf->BufUsed = nWritten ;
1084         }
1085 }
1086
1087
1088 /**
1089  * \brief Counts the numbmer of tokens in a buffer
1090  * \param Source String to count tokens in
1091  * \param tok    Tokenizer char to count
1092  * \returns numbers of tokenizer chars found
1093  */
1094 int StrBufNum_tokens(const StrBuf *source, char tok)
1095 {
1096         if (source == NULL)
1097                 return 0;
1098         return num_tokens(source->buf, tok);
1099 }
1100
1101 /*
1102  * remove_token() - a tokenizer that kills, maims, and destroys
1103  */
1104 /**
1105  * \brief a string tokenizer
1106  * \param Source StringBuffer to read into
1107  * \param parmnum n'th parameter to remove
1108  * \param separator tokenizer param
1109  * \returns -1 if not found, else length of token.
1110  */
1111 int StrBufRemove_token(StrBuf *Source, int parmnum, char separator)
1112 {
1113         int ReducedBy;
1114         char *d, *s;            /* dest, source */
1115         int count = 0;
1116
1117         /* Find desired parameter */
1118         d = Source->buf;
1119         while (count < parmnum) {
1120                 /* End of string, bail! */
1121                 if (!*d) {
1122                         d = NULL;
1123                         break;
1124                 }
1125                 if (*d == separator) {
1126                         count++;
1127                 }
1128                 d++;
1129         }
1130         if (!d) return 0;               /* Parameter not found */
1131
1132         /* Find next parameter */
1133         s = d;
1134         while (*s && *s != separator) {
1135                 s++;
1136         }
1137         if (*s == separator)
1138                 s++;
1139         ReducedBy = d - s;
1140
1141         /* Hack and slash */
1142         if (*s) {
1143                 memmove(d, s, Source->BufUsed - (s - Source->buf));
1144                 Source->BufUsed += ReducedBy;
1145         }
1146         else if (d == Source->buf) {
1147                 *d = 0;
1148                 Source->BufUsed = 0;
1149         }
1150         else {
1151                 *--d = 0;
1152                 Source->BufUsed += ReducedBy;
1153         }
1154         /*
1155         while (*s) {
1156                 *d++ = *s++;
1157         }
1158         *d = 0;
1159         */
1160         return ReducedBy;
1161 }
1162
1163
1164 /**
1165  * \brief a string tokenizer
1166  * \param dest Destination StringBuffer
1167  * \param Source StringBuffer to read into
1168  * \param parmnum n'th parameter to extract
1169  * \param separator tokenizer param
1170  * \returns -1 if not found, else length of token.
1171  */
1172 int StrBufExtract_token(StrBuf *dest, const StrBuf *Source, int parmnum, char separator)
1173 {
1174         const char *s, *e;              //* source * /
1175         int len = 0;                    //* running total length of extracted string * /
1176         int current_token = 0;          //* token currently being processed * /
1177          
1178         if (dest != NULL) {
1179                 dest->buf[0] = '\0';
1180                 dest->BufUsed = 0;
1181         }
1182         else
1183                 return(-1);
1184
1185         if ((Source == NULL) || (Source->BufUsed ==0)) {
1186                 return(-1);
1187         }
1188         s = Source->buf;
1189         e = s + Source->BufUsed;
1190
1191         //cit_backtrace();
1192         //lprintf (CTDL_DEBUG, "test >: n: %d sep: %c source: %s \n willi \n", parmnum, separator, source);
1193
1194         while ((s<e) && !IsEmptyStr(s)) {
1195                 if (*s == separator) {
1196                         ++current_token;
1197                 }
1198                 if (len >= dest->BufSize) {
1199                         dest->BufUsed = len;
1200                         if (IncreaseBuf(dest, 1, -1) < 0) {
1201                                 dest->BufUsed --;
1202                                 break;
1203                         }
1204                 }
1205                 if ( (current_token == parmnum) && 
1206                      (*s != separator)) {
1207                         dest->buf[len] = *s;
1208                         ++len;
1209                 }
1210                 else if (current_token > parmnum) {
1211                         break;
1212                 }
1213                 ++s;
1214         }
1215         
1216         dest->buf[len] = '\0';
1217         dest->BufUsed = len;
1218                 
1219         if (current_token < parmnum) {
1220                 //lprintf (CTDL_DEBUG,"test <!: %s\n", dest);
1221                 return(-1);
1222         }
1223         //lprintf (CTDL_DEBUG,"test <: %d; %s\n", len, dest);
1224         return(len);
1225 }
1226
1227
1228
1229
1230
1231 /**
1232  * \brief a string tokenizer to fetch an integer
1233  * \param dest Destination StringBuffer
1234  * \param parmnum n'th parameter to extract
1235  * \param separator tokenizer param
1236  * \returns 0 if not found, else integer representation of the token
1237  */
1238 int StrBufExtract_int(const StrBuf* Source, int parmnum, char separator)
1239 {
1240         StrBuf tmp;
1241         char buf[64];
1242         
1243         tmp.buf = buf;
1244         buf[0] = '\0';
1245         tmp.BufSize = 64;
1246         tmp.BufUsed = 0;
1247         tmp.ConstBuf = 1;
1248         if (StrBufExtract_token(&tmp, Source, parmnum, separator) > 0)
1249                 return(atoi(buf));
1250         else
1251                 return 0;
1252 }
1253
1254 /**
1255  * \brief a string tokenizer to fetch a long integer
1256  * \param dest Destination StringBuffer
1257  * \param parmnum n'th parameter to extract
1258  * \param separator tokenizer param
1259  * \returns 0 if not found, else long integer representation of the token
1260  */
1261 long StrBufExtract_long(const StrBuf* Source, int parmnum, char separator)
1262 {
1263         StrBuf tmp;
1264         char buf[64];
1265         
1266         tmp.buf = buf;
1267         buf[0] = '\0';
1268         tmp.BufSize = 64;
1269         tmp.BufUsed = 0;
1270         tmp.ConstBuf = 1;
1271         if (StrBufExtract_token(&tmp, Source, parmnum, separator) > 0)
1272                 return(atoi(buf));
1273         else
1274                 return 0;
1275 }
1276
1277
1278 /**
1279  * \brief a string tokenizer to fetch an unsigned long
1280  * \param dest Destination StringBuffer
1281  * \param parmnum n'th parameter to extract
1282  * \param separator tokenizer param
1283  * \returns 0 if not found, else unsigned long representation of the token
1284  */
1285 unsigned long StrBufExtract_unsigned_long(const StrBuf* Source, int parmnum, char separator)
1286 {
1287         StrBuf tmp;
1288         char buf[64];
1289         char *pnum;
1290         
1291         tmp.buf = buf;
1292         buf[0] = '\0';
1293         tmp.BufSize = 64;
1294         tmp.BufUsed = 0;
1295         tmp.ConstBuf = 1;
1296         if (StrBufExtract_token(&tmp, Source, parmnum, separator) > 0) {
1297                 pnum = &buf[0];
1298                 if (*pnum == '-')
1299                         pnum ++;
1300                 return (unsigned long) atol(pnum);
1301         }
1302         else 
1303                 return 0;
1304 }
1305
1306
1307
1308 /**
1309  * \briefa string tokenizer; Bounds checker
1310  *  function to make shure whether StrBufExtract_NextToken and friends have reached the end of the string.
1311  * \param Source our tokenbuffer
1312  * \param pStart the token iterator pointer to inspect
1313  * \returns whether the revolving pointer is inside of the search range
1314  */
1315 int StrBufHaveNextToken(const StrBuf *Source, const char **pStart)
1316 {
1317         const char *Null = NULL;
1318         Null --;
1319         if ((Source == NULL) || (*pStart == Null))
1320         {
1321                 return 0;
1322         }
1323         if (*pStart == NULL)
1324         {
1325                 return 1;
1326         }
1327         else if (*pStart > Source->buf + Source->BufUsed)
1328         {
1329                 return 0;
1330         }
1331         else if (*pStart <= Source->buf)
1332         {
1333                 return 0;
1334         }
1335
1336         return 1;
1337 }
1338
1339 /**
1340  * \brief a string tokenizer
1341  * \param dest Destination StringBuffer
1342  * \param Source StringBuffer to read into
1343  * \param pStart pointer to the end of the last token. Feed with NULL on start.
1344  * \param separator tokenizer param
1345  * \returns -1 if not found, else length of token.
1346  */
1347 int StrBufExtract_NextToken(StrBuf *dest, const StrBuf *Source, const char **pStart, char separator)
1348 {
1349         const char *s;          /* source */
1350         const char *EndBuffer;  /* end stop of source buffer */
1351         int current_token = 0;  /* token currently being processed */
1352         int len = 0;            /* running total length of extracted string */
1353
1354         if ((Source          == NULL) || 
1355             (Source->BufUsed == 0)      ) 
1356         {
1357                 *pStart = NULL;
1358                 (*pStart) --; /* move it to the end of all being via underflow */
1359                 return -1;
1360         }
1361          
1362         EndBuffer = Source->buf + Source->BufUsed;
1363
1364         if (dest != NULL) 
1365         {
1366                 dest->buf[0] = '\0';
1367                 dest->BufUsed = 0;
1368         }
1369         else
1370         {
1371                 *pStart = EndBuffer + 1;
1372                 return -1;
1373         }
1374
1375         if (*pStart == NULL)
1376         {
1377                 *pStart = Source->buf; /* we're starting to examine this buffer. */
1378         }
1379         else if ((*pStart < Source->buf) || 
1380                  (*pStart > EndBuffer  )   ) 
1381         {
1382                 return -1; /* no more tokens to find. */
1383         }
1384
1385         s = *pStart;
1386         /* start to find the next token */
1387         while ((s <= EndBuffer)      && 
1388                (current_token == 0) ) 
1389         {
1390                 if (*s == separator) 
1391                 {
1392                         /* we found the next token */
1393                         ++current_token;
1394                 }
1395
1396                 if (len >= dest->BufSize) 
1397                 {
1398                         /* our Dest-buffer isn't big enough, increase it. */
1399                         dest->BufUsed = len;
1400
1401                         if (IncreaseBuf(dest, 1, -1) < 0) {
1402                                 /* WHUT? no more mem? bail out. */
1403                                 s = EndBuffer;
1404                                 dest->BufUsed --;
1405                                 break;
1406                         }
1407                 }
1408
1409                 if ( (current_token == 0 ) &&   /* are we in our target token? */
1410                      (!IsEmptyStr(s)     ) &&
1411                      (separator     != *s)    ) /* don't copy the token itself */
1412                 {
1413                         dest->buf[len] = *s;    /* Copy the payload */
1414                         ++len;                  /* remember the bigger size. */
1415                 }
1416
1417                 ++s;
1418         }
1419
1420         /* did we reach the end? */
1421         if ((s > EndBuffer)) {
1422                 *pStart = EndBuffer + 1;
1423         }
1424         else {
1425                 *pStart = s;  /* remember the position for the next run */
1426         }
1427
1428         /* sanitize our extracted token */
1429         dest->buf[len] = '\0';
1430         dest->BufUsed  = len;
1431
1432         return (len);
1433 }
1434
1435
1436 /**
1437  * \brief a string tokenizer
1438  * \param dest Destination StringBuffer
1439  * \param Source StringBuffer to read into
1440  * \param pStart pointer to the end of the last token. Feed with NULL.
1441  * \param separator tokenizer param
1442  * \returns -1 if not found, else length of token.
1443  */
1444 int StrBufSkip_NTokenS(const StrBuf *Source, const char **pStart, char separator, int nTokens)
1445 {
1446         const char *s, *EndBuffer;      //* source * /
1447         int len = 0;                    //* running total length of extracted string * /
1448         int current_token = 0;          //* token currently being processed * /
1449
1450         if ((Source == NULL) || 
1451             (Source->BufUsed ==0)) {
1452                 return(-1);
1453         }
1454         if (nTokens == 0)
1455                 return Source->BufUsed;
1456
1457         if (*pStart == NULL)
1458                 *pStart = Source->buf;
1459
1460         EndBuffer = Source->buf + Source->BufUsed;
1461
1462         if ((*pStart < Source->buf) || 
1463             (*pStart >  EndBuffer)) {
1464                 return (-1);
1465         }
1466
1467
1468         s = *pStart;
1469
1470         //cit_backtrace();
1471         //lprintf (CTDL_DEBUG, "test >: n: %d sep: %c source: %s \n willi \n", parmnum, separator, source);
1472
1473         while ((s<EndBuffer) && !IsEmptyStr(s)) {
1474                 if (*s == separator) {
1475                         ++current_token;
1476                 }
1477                 if (current_token >= nTokens) {
1478                         break;
1479                 }
1480                 ++s;
1481         }
1482         *pStart = s;
1483         (*pStart) ++;
1484
1485         return(len);
1486 }
1487
1488 /**
1489  * \brief a string tokenizer to fetch an integer
1490  * \param dest Destination StringBuffer
1491  * \param parmnum n'th parameter to extract
1492  * \param separator tokenizer param
1493  * \returns 0 if not found, else integer representation of the token
1494  */
1495 int StrBufExtractNext_int(const StrBuf* Source, const char **pStart, char separator)
1496 {
1497         StrBuf tmp;
1498         char buf[64];
1499         
1500         tmp.buf = buf;
1501         buf[0] = '\0';
1502         tmp.BufSize = 64;
1503         tmp.BufUsed = 0;
1504         tmp.ConstBuf = 1;
1505         if (StrBufExtract_NextToken(&tmp, Source, pStart, separator) > 0)
1506                 return(atoi(buf));
1507         else
1508                 return 0;
1509 }
1510
1511 /**
1512  * \brief a string tokenizer to fetch a long integer
1513  * \param dest Destination StringBuffer
1514  * \param parmnum n'th parameter to extract
1515  * \param separator tokenizer param
1516  * \returns 0 if not found, else long integer representation of the token
1517  */
1518 long StrBufExtractNext_long(const StrBuf* Source, const char **pStart, char separator)
1519 {
1520         StrBuf tmp;
1521         char buf[64];
1522         
1523         tmp.buf = buf;
1524         buf[0] = '\0';
1525         tmp.BufSize = 64;
1526         tmp.BufUsed = 0;
1527         tmp.ConstBuf = 1;
1528         if (StrBufExtract_NextToken(&tmp, Source, pStart, separator) > 0)
1529                 return(atoi(buf));
1530         else
1531                 return 0;
1532 }
1533
1534
1535 /**
1536  * \brief a string tokenizer to fetch an unsigned long
1537  * \param dest Destination StringBuffer
1538  * \param parmnum n'th parameter to extract
1539  * \param separator tokenizer param
1540  * \returns 0 if not found, else unsigned long representation of the token
1541  */
1542 unsigned long StrBufExtractNext_unsigned_long(const StrBuf* Source, const char **pStart, char separator)
1543 {
1544         StrBuf tmp;
1545         char buf[64];
1546         char *pnum;
1547         
1548         tmp.buf = buf;
1549         buf[0] = '\0';
1550         tmp.BufSize = 64;
1551         tmp.BufUsed = 0;
1552         tmp.ConstBuf = 1;
1553         if (StrBufExtract_NextToken(&tmp, Source, pStart, separator) > 0) {
1554                 pnum = &buf[0];
1555                 if (*pnum == '-')
1556                         pnum ++;
1557                 return (unsigned long) atol(pnum);
1558         }
1559         else 
1560                 return 0;
1561 }
1562
1563
1564
1565 /**
1566  * \brief Read a line from socket
1567  * flushes and closes the FD on error
1568  * \param buf the buffer to get the input to
1569  * \param fd pointer to the filedescriptor to read
1570  * \param append Append to an existing string or replace?
1571  * \param Error strerror() on error 
1572  * \returns numbers of chars read
1573  */
1574 int StrBufTCP_read_line(StrBuf *buf, int *fd, int append, const char **Error)
1575 {
1576         int len, rlen, slen;
1577
1578         if (!append)
1579                 FlushStrBuf(buf);
1580
1581         slen = len = buf->BufUsed;
1582         while (1) {
1583                 rlen = read(*fd, &buf->buf[len], 1);
1584                 if (rlen < 1) {
1585                         *Error = strerror(errno);
1586                         
1587                         close(*fd);
1588                         *fd = -1;
1589                         
1590                         return -1;
1591                 }
1592                 if (buf->buf[len] == '\n')
1593                         break;
1594                 if (buf->buf[len] != '\r')
1595                         len ++;
1596                 if (len >= buf->BufSize) {
1597                         buf->BufUsed = len;
1598                         buf->buf[len+1] = '\0';
1599                         IncreaseBuf(buf, 1, -1);
1600                 }
1601         }
1602         buf->BufUsed = len;
1603         buf->buf[len] = '\0';
1604         return len - slen;
1605 }
1606
1607 /**
1608  * \brief Read a line from socket
1609  * flushes and closes the FD on error
1610  * \param buf the buffer to get the input to
1611  * \param fd pointer to the filedescriptor to read
1612  * \param append Append to an existing string or replace?
1613  * \param Error strerror() on error 
1614  * \returns numbers of chars read
1615  */
1616 int StrBufTCP_read_buffered_line(StrBuf *Line, 
1617                                  StrBuf *buf, 
1618                                  int *fd, 
1619                                  int timeout, 
1620                                  int selectresolution, 
1621                                  const char **Error)
1622 {
1623         int len, rlen;
1624         int nSuccessLess = 0;
1625         fd_set rfds;
1626         char *pch = NULL;
1627         int fdflags;
1628         struct timeval tv;
1629
1630         if (buf->BufUsed > 0) {
1631                 pch = strchr(buf->buf, '\n');
1632                 if (pch != NULL) {
1633                         rlen = 0;
1634                         len = pch - buf->buf;
1635                         if (len > 0 && (*(pch - 1) == '\r') )
1636                                 rlen ++;
1637                         StrBufSub(Line, buf, 0, len - rlen);
1638                         StrBufCutLeft(buf, len + 1);
1639                         return len - rlen;
1640                 }
1641         }
1642         
1643         if (buf->BufSize - buf->BufUsed < 10)
1644                 IncreaseBuf(buf, 1, -1);
1645
1646         fdflags = fcntl(*fd, F_GETFL);
1647         if ((fdflags & O_NONBLOCK) == O_NONBLOCK)
1648                 return -1;
1649
1650         while ((nSuccessLess < timeout) && (pch == NULL)) {
1651                 tv.tv_sec = selectresolution;
1652                 tv.tv_usec = 0;
1653                 
1654                 FD_ZERO(&rfds);
1655                 FD_SET(*fd, &rfds);
1656                 if (select(*fd + 1, NULL, &rfds, NULL, &tv) == -1) {
1657                         *Error = strerror(errno);
1658                         close (*fd);
1659                         *fd = -1;
1660                         return -1;
1661                 }               
1662                 if (FD_ISSET(*fd, &rfds)) {
1663                         rlen = read(*fd, 
1664                                     &buf->buf[buf->BufUsed], 
1665                                     buf->BufSize - buf->BufUsed - 1);
1666                         if (rlen < 1) {
1667                                 *Error = strerror(errno);
1668                                 close(*fd);
1669                                 *fd = -1;
1670                                 return -1;
1671                         }
1672                         else if (rlen > 0) {
1673                                 nSuccessLess = 0;
1674                                 buf->BufUsed += rlen;
1675                                 buf->buf[buf->BufUsed] = '\0';
1676                                 if (buf->BufUsed + 10 > buf->BufSize) {
1677                                         IncreaseBuf(buf, 1, -1);
1678                                 }
1679                                 pch = strchr(buf->buf, '\n');
1680                                 continue;
1681                         }
1682                 }
1683                 nSuccessLess ++;
1684         }
1685         if (pch != NULL) {
1686                 rlen = 0;
1687                 len = pch - buf->buf;
1688                 if (len > 0 && (*(pch - 1) == '\r') )
1689                         rlen ++;
1690                 StrBufSub(Line, buf, 0, len - rlen);
1691                 StrBufCutLeft(buf, len + 1);
1692                 return len - rlen;
1693         }
1694         return -1;
1695
1696 }
1697
1698 static const char *ErrRBLF_WrongFDFlags="StrBufTCP_read_buffered_line_fast: don't work with fdflags & O_NONBLOCK";
1699 static const char *ErrRBLF_SelectFailed="StrBufTCP_read_buffered_line_fast: Select failed without reason";
1700 static const char *ErrRBLF_NotEnoughSentFromServer="StrBufTCP_read_buffered_line_fast: No complete line was sent from peer";
1701 /**
1702  * \brief Read a line from socket
1703  * flushes and closes the FD on error
1704  * \param buf the buffer to get the input to
1705  * \param Pos pointer to the current read position, should be NULL initialized!
1706  * \param fd pointer to the filedescriptor to read
1707  * \param append Append to an existing string or replace?
1708  * \param Error strerror() on error 
1709  * \returns numbers of chars read
1710  */
1711 int StrBufTCP_read_buffered_line_fast(StrBuf *Line, 
1712                                       StrBuf *IOBuf, 
1713                                       const char **Pos,
1714                                       int *fd, 
1715                                       int timeout, 
1716                                       int selectresolution, 
1717                                       const char **Error)
1718 {
1719         const char *pche = NULL;
1720         const char *pos = NULL;
1721         int len, rlen;
1722         int nSuccessLess = 0;
1723         fd_set rfds;
1724         const char *pch = NULL;
1725         int fdflags;
1726         struct timeval tv;
1727         
1728         pos = *Pos;
1729         if ((IOBuf->BufUsed > 0) && 
1730             (pos != NULL) && 
1731             (pos < IOBuf->buf + IOBuf->BufUsed)) 
1732         {
1733                 pche = IOBuf->buf + IOBuf->BufUsed;
1734                 pch = pos;
1735                 while ((pch < pche) && (*pch != '\n'))
1736                         pch ++;
1737                 if ((pch >= pche) || (*pch == '\0'))
1738                         pch = NULL;
1739                 if ((pch != NULL) && 
1740                     (pch <= pche)) 
1741                 {
1742                         rlen = 0;
1743                         len = pch - pos;
1744                         if (len > 0 && (*(pch - 1) == '\r') )
1745                                 rlen ++;
1746                         StrBufSub(Line, IOBuf, (pos - IOBuf->buf), len - rlen);
1747                         *Pos = pch + 1;
1748                         return len - rlen;
1749                 }
1750         }
1751         
1752         if (pos != NULL) {
1753                 if (pos > pche)
1754                         FlushStrBuf(IOBuf);
1755                 else 
1756                         StrBufCutLeft(IOBuf, (pos - IOBuf->buf));
1757                 *Pos = NULL;
1758         }
1759         
1760         if (IOBuf->BufSize - IOBuf->BufUsed < 10) {
1761                 IncreaseBuf(IOBuf, 1, -1);
1762         }
1763
1764         fdflags = fcntl(*fd, F_GETFL);
1765         if ((fdflags & O_NONBLOCK) == O_NONBLOCK) {
1766                 *Error = ErrRBLF_WrongFDFlags;
1767                 return -1;
1768         }
1769
1770         pch = NULL;
1771         while ((nSuccessLess < timeout) && (pch == NULL)) {
1772                 tv.tv_sec = selectresolution;
1773                 tv.tv_usec = 0;
1774                 
1775                 FD_ZERO(&rfds);
1776                 FD_SET(*fd, &rfds);
1777                 if (select(*fd + 1, NULL, &rfds, NULL, &tv) == -1) {
1778                         *Error = strerror(errno);
1779                         close (*fd);
1780                         *fd = -1;
1781                         if (*Error == NULL)
1782                                 *Error = ErrRBLF_SelectFailed;
1783                         return -1;
1784                 }               
1785                 if (FD_ISSET(*fd, &rfds) != 0) {
1786                         rlen = read(*fd, 
1787                                     &IOBuf->buf[IOBuf->BufUsed], 
1788                                     IOBuf->BufSize - IOBuf->BufUsed - 1);
1789                         if (rlen < 1) {
1790                                 *Error = strerror(errno);
1791                                 close(*fd);
1792                                 *fd = -1;
1793                                 return -1;
1794                         }
1795                         else if (rlen > 0) {
1796                                 nSuccessLess = 0;
1797                                 IOBuf->BufUsed += rlen;
1798                                 IOBuf->buf[IOBuf->BufUsed] = '\0';
1799                                 if (IOBuf->BufUsed + 10 > IOBuf->BufSize) {
1800                                         IncreaseBuf(IOBuf, 1, -1);
1801                                 }
1802
1803                                 pche = IOBuf->buf + IOBuf->BufUsed;
1804                                 pch = IOBuf->buf;
1805                                 while ((pch < pche) && (*pch != '\n'))
1806                                         pch ++;
1807                                 if ((pch >= pche) || (*pch == '\0'))
1808                                         pch = NULL;
1809                                 continue;
1810                         }
1811                 }
1812                 nSuccessLess ++;
1813         }
1814         if (pch != NULL) {
1815                 pos = IOBuf->buf;
1816                 rlen = 0;
1817                 len = pch - pos;
1818                 if (len > 0 && (*(pch - 1) == '\r') )
1819                         rlen ++;
1820                 StrBufSub(Line, IOBuf, 0, len - rlen);
1821                 *Pos = pos + len + 1;
1822                 return len - rlen;
1823         }
1824         *Error = ErrRBLF_NotEnoughSentFromServer;
1825         return -1;
1826
1827 }
1828
1829 /**
1830  * \brief Input binary data from socket
1831  * flushes and closes the FD on error
1832  * \param buf the buffer to get the input to
1833  * \param fd pointer to the filedescriptor to read
1834  * \param append Append to an existing string or replace?
1835  * \param nBytes the maximal number of bytes to read
1836  * \param Error strerror() on error 
1837  * \returns numbers of chars read
1838  */
1839 int StrBufReadBLOB(StrBuf *Buf, int *fd, int append, long nBytes, const char **Error)
1840 {
1841         fd_set wset;
1842         int fdflags;
1843         int len, rlen, slen;
1844         int nRead = 0;
1845         char *ptr;
1846
1847         if ((Buf == NULL) || (*fd == -1))
1848                 return -1;
1849         if (!append)
1850                 FlushStrBuf(Buf);
1851         if (Buf->BufUsed + nBytes >= Buf->BufSize)
1852                 IncreaseBuf(Buf, 1, Buf->BufUsed + nBytes);
1853
1854         ptr = Buf->buf + Buf->BufUsed;
1855
1856         slen = len = Buf->BufUsed;
1857
1858         fdflags = fcntl(*fd, F_GETFL);
1859
1860         while (nRead < nBytes) {
1861                if ((fdflags & O_NONBLOCK) == O_NONBLOCK) {
1862                         FD_ZERO(&wset);
1863                         FD_SET(*fd, &wset);
1864                         if (select(*fd + 1, NULL, &wset, NULL, NULL) == -1) {
1865                                 *Error = strerror(errno);
1866                                 return -1;
1867                         }
1868                 }
1869
1870                 if ((rlen = read(*fd, 
1871                                  ptr,
1872                                  nBytes - nRead)) == -1) {
1873                         close(*fd);
1874                         *fd = -1;
1875                         *Error = strerror(errno);
1876                         return rlen;
1877                 }
1878                 nRead += rlen;
1879                 ptr += rlen;
1880                 Buf->BufUsed += rlen;
1881         }
1882         Buf->buf[Buf->BufUsed] = '\0';
1883         return nRead;
1884 }
1885
1886 const char *ErrRBB_too_many_selects = "StrBufReadBLOBBuffered: to many selects; aborting.";
1887 /**
1888  * \brief Input binary data from socket
1889  * flushes and closes the FD on error
1890  * \param buf the buffer to get the input to
1891  * \param fd pointer to the filedescriptor to read
1892  * \param append Append to an existing string or replace?
1893  * \param nBytes the maximal number of bytes to read
1894  * \param Error strerror() on error 
1895  * \returns numbers of chars read
1896  */
1897 int StrBufReadBLOBBuffered(StrBuf *Blob, 
1898                            StrBuf *IOBuf, 
1899                            const char **Pos,
1900                            int *fd, 
1901                            int append, 
1902                            long nBytes, 
1903                            int check, 
1904                            const char **Error)
1905 {
1906         const char *pche;
1907         const char *pos;
1908         int nSelects = 0;
1909         int SelRes;
1910         fd_set wset;
1911         int fdflags;
1912         int len = 0;
1913         int rlen, slen;
1914         int nRead = 0;
1915         char *ptr;
1916         const char *pch;
1917
1918         if ((Blob == NULL) || (*fd == -1) || (IOBuf == NULL) || (Pos == NULL))
1919                 return -1;
1920         if (!append)
1921                 FlushStrBuf(Blob);
1922         if (Blob->BufUsed + nBytes >= Blob->BufSize) 
1923                 IncreaseBuf(Blob, append, Blob->BufUsed + nBytes);
1924         
1925         pos = *Pos;
1926
1927         if (pos > 0)
1928                 len = pos - IOBuf->buf;
1929         rlen = IOBuf->BufUsed - len;
1930
1931
1932         if ((IOBuf->BufUsed > 0) && 
1933             (pos != NULL) && 
1934             (pos < IOBuf->buf + IOBuf->BufUsed)) 
1935         {
1936                 pche = IOBuf->buf + IOBuf->BufUsed;
1937                 pch = pos;
1938
1939                 if (rlen < nBytes) {
1940                         memcpy(Blob->buf + Blob->BufUsed, pos, rlen);
1941                         Blob->BufUsed += rlen;
1942                         Blob->buf[Blob->BufUsed] = '\0';
1943                         nRead = rlen;
1944                         *Pos = NULL; 
1945                 }
1946                 if (rlen >= nBytes) {
1947                         memcpy(Blob->buf + Blob->BufUsed, pos, nBytes);
1948                         Blob->BufUsed += nBytes;
1949                         Blob->buf[Blob->BufUsed] = '\0';
1950                         if (rlen == nBytes) {
1951                                 *Pos = NULL; 
1952                                 FlushStrBuf(IOBuf);
1953                         }
1954                         else 
1955                                 *Pos += nBytes;
1956                         return nBytes;
1957                 }
1958         }
1959
1960         FlushStrBuf(IOBuf);
1961         if (IOBuf->BufSize < nBytes - nRead)
1962                 IncreaseBuf(IOBuf, 0, nBytes - nRead);
1963         ptr = IOBuf->buf;
1964
1965         slen = len = Blob->BufUsed;
1966
1967         fdflags = fcntl(*fd, F_GETFL);
1968
1969         SelRes = 1;
1970         nBytes -= nRead;
1971         nRead = 0;
1972         while (nRead < nBytes) {
1973                 if ((fdflags & O_NONBLOCK) == O_NONBLOCK) {
1974                         FD_ZERO(&wset);
1975                         FD_SET(*fd, &wset);
1976                         SelRes = select(*fd + 1, NULL, &wset, NULL, NULL);
1977                 }
1978                 if (SelRes == -1) {
1979                         *Error = strerror(errno);
1980                         return -1;
1981                 }
1982                 else if (SelRes) {
1983                         nSelects = 0;
1984                         rlen = read(*fd, 
1985                                     ptr,
1986                                     nBytes - nRead);
1987                         if (rlen == -1) {
1988                                 close(*fd);
1989                                 *fd = -1;
1990                                 *Error = strerror(errno);
1991                                 return rlen;
1992                         }
1993                 }
1994                 else {
1995                         nSelects ++;
1996                         if ((check == NNN_TERM) && 
1997                             (nRead > 5) &&
1998                             (strncmp(IOBuf->buf + IOBuf->BufUsed - 5, "\n000\n", 5) == 0)) 
1999                         {
2000                                 StrBufPlain(Blob, HKEY("\n000\n"));
2001                                 StrBufCutRight(Blob, 5);
2002                                 return Blob->BufUsed;
2003                         }
2004                         if (nSelects > 10) {
2005                                 FlushStrBuf(IOBuf);
2006                                 *Error = ErrRBB_too_many_selects;
2007                                 return -1;
2008                         }
2009                 }
2010                 if (rlen > 0) {
2011                         nRead += rlen;
2012                         ptr += rlen;
2013                         IOBuf->BufUsed += rlen;
2014                 }
2015         }
2016         if (nRead > nBytes) {
2017                 *Pos = IOBuf->buf + nBytes;
2018         }
2019         Blob->buf[Blob->BufUsed] = '\0';
2020         StrBufAppendBufPlain(Blob, IOBuf->buf, nBytes, 0);
2021         return nRead;
2022 }
2023
2024 /**
2025  * \brief Cut nChars from the start of the string
2026  * \param Buf Buffer to modify
2027  * \param nChars how many chars should be skipped?
2028  */
2029 void StrBufCutLeft(StrBuf *Buf, int nChars)
2030 {
2031         if (nChars >= Buf->BufUsed) {
2032                 FlushStrBuf(Buf);
2033                 return;
2034         }
2035         memmove(Buf->buf, Buf->buf + nChars, Buf->BufUsed - nChars);
2036         Buf->BufUsed -= nChars;
2037         Buf->buf[Buf->BufUsed] = '\0';
2038 }
2039
2040 /**
2041  * \brief Cut the trailing n Chars from the string
2042  * \param Buf Buffer to modify
2043  * \param nChars how many chars should be trunkated?
2044  */
2045 void StrBufCutRight(StrBuf *Buf, int nChars)
2046 {
2047         if (nChars >= Buf->BufUsed) {
2048                 FlushStrBuf(Buf);
2049                 return;
2050         }
2051         Buf->BufUsed -= nChars;
2052         Buf->buf[Buf->BufUsed] = '\0';
2053 }
2054
2055 /**
2056  * \brief Cut the string after n Chars
2057  * \param Buf Buffer to modify
2058  * \param AfternChars after how many chars should we trunkate the string?
2059  * \param At if non-null and points inside of our string, cut it there.
2060  */
2061 void StrBufCutAt(StrBuf *Buf, int AfternChars, const char *At)
2062 {
2063         if (At != NULL){
2064                 AfternChars = At - Buf->buf;
2065         }
2066
2067         if ((AfternChars < 0) || (AfternChars >= Buf->BufUsed))
2068                 return;
2069         Buf->BufUsed = AfternChars;
2070         Buf->buf[Buf->BufUsed] = '\0';
2071 }
2072
2073
2074 /*
2075  * Strip leading and trailing spaces from a string; with premeasured and adjusted length.
2076  * buf - the string to modify
2077  * len - length of the string. 
2078  */
2079 void StrBufTrim(StrBuf *Buf)
2080 {
2081         int delta = 0;
2082         if ((Buf == NULL) || (Buf->BufUsed == 0)) return;
2083
2084         while ((Buf->BufUsed > delta) && (isspace(Buf->buf[delta]))){
2085                 delta ++;
2086         }
2087         if (delta > 0) StrBufCutLeft(Buf, delta);
2088
2089         if (Buf->BufUsed == 0) return;
2090         while (isspace(Buf->buf[Buf->BufUsed - 1])){
2091                 Buf->BufUsed --;
2092         }
2093         Buf->buf[Buf->BufUsed] = '\0';
2094 }
2095
2096
2097 void StrBufUpCase(StrBuf *Buf) 
2098 {
2099         char *pch, *pche;
2100
2101         pch = Buf->buf;
2102         pche = pch + Buf->BufUsed;
2103         while (pch < pche) {
2104                 *pch = toupper(*pch);
2105                 pch ++;
2106         }
2107 }
2108
2109
2110 void StrBufLowerCase(StrBuf *Buf) 
2111 {
2112         char *pch, *pche;
2113
2114         pch = Buf->buf;
2115         pche = pch + Buf->BufUsed;
2116         while (pch < pche) {
2117                 *pch = tolower(*pch);
2118                 pch ++;
2119         }
2120 }
2121
2122 /**
2123  * \Brief removes double slashes from pathnames
2124  * \param Dir directory string to filter
2125  * \param RemoveTrailingSlash allows / disallows trailing slashes
2126  */
2127 void StrBufStripSlashes(StrBuf *Dir, int RemoveTrailingSlash)
2128 {
2129         char *a, *b;
2130
2131         a = b = Dir->buf;
2132
2133         while (!IsEmptyStr(a)) {
2134                 if (*a == '/') {
2135                         while (*a == '/')
2136                                 a++;
2137                         *b = '/';
2138                         b++;
2139                 }
2140                 else {
2141                         *b = *a;
2142                         b++; a++;
2143                 }
2144         }
2145         if ((RemoveTrailingSlash) && (*(b - 1) != '/')){
2146                 *b = '/';
2147                 b++;
2148         }
2149         *b = '\0';
2150         Dir->BufUsed = b - Dir->buf;
2151 }
2152
2153 /**
2154  * \brief unhide special chars hidden to the HTML escaper
2155  * \param target buffer to put the unescaped string in
2156  * \param source buffer to unescape
2157  */
2158 void StrBufEUid_unescapize(StrBuf *target, const StrBuf *source) 
2159 {
2160         int a, b, len;
2161         char hex[3];
2162
2163         if (target != NULL)
2164                 FlushStrBuf(target);
2165
2166         if (source == NULL ||target == NULL)
2167         {
2168                 return;
2169         }
2170
2171         len = source->BufUsed;
2172         for (a = 0; a < len; ++a) {
2173                 if (target->BufUsed >= target->BufSize)
2174                         IncreaseBuf(target, 1, -1);
2175
2176                 if (source->buf[a] == '=') {
2177                         hex[0] = source->buf[a + 1];
2178                         hex[1] = source->buf[a + 2];
2179                         hex[2] = 0;
2180                         b = 0;
2181                         sscanf(hex, "%02x", &b);
2182                         target->buf[target->BufUsed] = b;
2183                         target->buf[++target->BufUsed] = 0;
2184                         a += 2;
2185                 }
2186                 else {
2187                         target->buf[target->BufUsed] = source->buf[a];
2188                         target->buf[++target->BufUsed] = 0;
2189                 }
2190         }
2191 }
2192
2193
2194 /**
2195  * \brief hide special chars from the HTML escapers and friends
2196  * \param target buffer to put the escaped string in
2197  * \param source buffer to escape
2198  */
2199 void StrBufEUid_escapize(StrBuf *target, const StrBuf *source) 
2200 {
2201         int i, len;
2202
2203         if (target != NULL)
2204                 FlushStrBuf(target);
2205
2206         if (source == NULL ||target == NULL)
2207         {
2208                 return;
2209         }
2210
2211         len = source->BufUsed;
2212         for (i=0; i<len; ++i) {
2213                 if (target->BufUsed + 4 >= target->BufSize)
2214                         IncreaseBuf(target, 1, -1);
2215                 if ( (isalnum(source->buf[i])) || 
2216                      (source->buf[i]=='-') || 
2217                      (source->buf[i]=='_') ) {
2218                         target->buf[target->BufUsed++] = source->buf[i];
2219                 }
2220                 else {
2221                         sprintf(&target->buf[target->BufUsed], 
2222                                 "=%02X", 
2223                                 (0xFF &source->buf[i]));
2224                         target->BufUsed += 3;
2225                 }
2226         }
2227         target->buf[target->BufUsed + 1] = '\0';
2228 }
2229
2230 /*
2231  * \brief uses the same calling syntax as compress2(), but it
2232  * creates a stream compatible with HTTP "Content-encoding: gzip"
2233  */
2234 #ifdef HAVE_ZLIB
2235 #define DEF_MEM_LEVEL 8 /*< memlevel??? */
2236 #define OS_CODE 0x03    /*< unix */
2237 int ZEXPORT compress_gzip(Bytef * dest,         /*< compressed buffer*/
2238                           size_t * destLen,     /*< length of the compresed data */
2239                           const Bytef * source, /*< source to encode */
2240                           uLong sourceLen,      /*< length of source to encode */
2241                           int level)            /*< compression level */
2242 {
2243         const int gz_magic[2] = { 0x1f, 0x8b }; /* gzip magic header */
2244
2245         /* write gzip header */
2246         snprintf((char *) dest, *destLen, 
2247                  "%c%c%c%c%c%c%c%c%c%c",
2248                  gz_magic[0], gz_magic[1], Z_DEFLATED,
2249                  0 /*flags */ , 0, 0, 0, 0 /*time */ , 0 /* xflags */ ,
2250                  OS_CODE);
2251
2252         /* normal deflate */
2253         z_stream stream;
2254         int err;
2255         stream.next_in = (Bytef *) source;
2256         stream.avail_in = (uInt) sourceLen;
2257         stream.next_out = dest + 10L;   // after header
2258         stream.avail_out = (uInt) * destLen;
2259         if ((uLong) stream.avail_out != *destLen)
2260                 return Z_BUF_ERROR;
2261
2262         stream.zalloc = (alloc_func) 0;
2263         stream.zfree = (free_func) 0;
2264         stream.opaque = (voidpf) 0;
2265
2266         err = deflateInit2(&stream, level, Z_DEFLATED, -MAX_WBITS,
2267                            DEF_MEM_LEVEL, Z_DEFAULT_STRATEGY);
2268         if (err != Z_OK)
2269                 return err;
2270
2271         err = deflate(&stream, Z_FINISH);
2272         if (err != Z_STREAM_END) {
2273                 deflateEnd(&stream);
2274                 return err == Z_OK ? Z_BUF_ERROR : err;
2275         }
2276         *destLen = stream.total_out + 10L;
2277
2278         /* write CRC and Length */
2279         uLong crc = crc32(0L, source, sourceLen);
2280         int n;
2281         for (n = 0; n < 4; ++n, ++*destLen) {
2282                 dest[*destLen] = (int) (crc & 0xff);
2283                 crc >>= 8;
2284         }
2285         uLong len = stream.total_in;
2286         for (n = 0; n < 4; ++n, ++*destLen) {
2287                 dest[*destLen] = (int) (len & 0xff);
2288                 len >>= 8;
2289         }
2290         err = deflateEnd(&stream);
2291         return err;
2292 }
2293 #endif
2294
2295
2296 /**
2297  * Attention! If you feed this a Const String, you must maintain the uncompressed buffer yourself!
2298  */
2299 int CompressBuffer(StrBuf *Buf)
2300 {
2301 #ifdef HAVE_ZLIB
2302         char *compressed_data = NULL;
2303         size_t compressed_len, bufsize;
2304         int i = 0;
2305
2306         bufsize = compressed_len = Buf->BufUsed +  (Buf->BufUsed / 100) + 100;
2307         compressed_data = malloc(compressed_len);
2308         
2309         if (compressed_data == NULL)
2310                 return -1;
2311         /* Flush some space after the used payload so valgrind shuts up... */
2312         while ((i < 10) && (Buf->BufUsed + i < Buf->BufSize))
2313                 Buf->buf[Buf->BufUsed + i++] = '\0';
2314         if (compress_gzip((Bytef *) compressed_data,
2315                           &compressed_len,
2316                           (Bytef *) Buf->buf,
2317                           (uLongf) Buf->BufUsed, Z_BEST_SPEED) == Z_OK) {
2318                 if (!Buf->ConstBuf)
2319                         free(Buf->buf);
2320                 Buf->buf = compressed_data;
2321                 Buf->BufUsed = compressed_len;
2322                 Buf->BufSize = bufsize;
2323                 /* Flush some space after the used payload so valgrind shuts up... */
2324                 i = 0;
2325                 while ((i < 10) && (Buf->BufUsed + i < Buf->BufSize))
2326                         Buf->buf[Buf->BufUsed + i++] = '\0';
2327                 return 1;
2328         } else {
2329                 free(compressed_data);
2330         }
2331 #endif  /* HAVE_ZLIB */
2332         return 0;
2333 }
2334
2335 /**
2336  * \brief decode a buffer from base 64 encoding; destroys original
2337  * \param Buf Buffor to transform
2338  */
2339 int StrBufDecodeBase64(StrBuf *Buf)
2340 {
2341         char *xferbuf;
2342         size_t siz;
2343         if (Buf == NULL) return -1;
2344
2345         xferbuf = (char*) malloc(Buf->BufSize);
2346         siz = CtdlDecodeBase64(xferbuf,
2347                                Buf->buf,
2348                                Buf->BufUsed);
2349         free(Buf->buf);
2350         Buf->buf = xferbuf;
2351         Buf->BufUsed = siz;
2352         return siz;
2353 }
2354
2355 /**
2356  * \brief decode a buffer from base 64 encoding; destroys original
2357  * \param Buf Buffor to transform
2358  */
2359 int StrBufDecodeHex(StrBuf *Buf)
2360 {
2361         unsigned int ch;
2362         char *pch, *pche, *pchi;
2363
2364         if (Buf == NULL) return -1;
2365
2366         pch = pchi = Buf->buf;
2367         pche = pch + Buf->BufUsed;
2368
2369         while (pchi < pche){
2370                 ch = decode_hex(pchi);
2371                 *pch = ch;
2372                 pch ++;
2373                 pchi += 2;
2374         }
2375
2376         *pch = '\0';
2377         Buf->BufUsed = pch - Buf->buf;
2378         return Buf->BufUsed;
2379 }
2380
2381 /**
2382  * \brief replace all chars >0x20 && < 0x7F with Mute
2383  * \param Mute char to put over invalid chars
2384  * \param Buf Buffor to transform
2385  */
2386 int StrBufSanitizeAscii(StrBuf *Buf, const char Mute)
2387 {
2388         unsigned char *pch;
2389
2390         if (Buf == NULL) return -1;
2391         pch = (unsigned char *)Buf->buf;
2392         while (pch < (unsigned char *)Buf->buf + Buf->BufUsed) {
2393                 if ((*pch < 0x20) || (*pch > 0x7F))
2394                         *pch = Mute;
2395                 pch ++;
2396         }
2397         return Buf->BufUsed;
2398 }
2399
2400
2401 /**
2402  * \brief  remove escaped strings from i.e. the url string (like %20 for blanks)
2403  * \param Buf Buffer to translate
2404  * \param StripBlanks Reduce several blanks to one?
2405  */
2406 long StrBufUnescape(StrBuf *Buf, int StripBlanks)
2407 {
2408         int a, b;
2409         char hex[3];
2410         long len;
2411
2412         while ((Buf->BufUsed > 0) && (isspace(Buf->buf[Buf->BufUsed - 1]))){
2413                 Buf->buf[Buf->BufUsed - 1] = '\0';
2414                 Buf->BufUsed --;
2415         }
2416
2417         a = 0; 
2418         while (a < Buf->BufUsed) {
2419                 if (Buf->buf[a] == '+')
2420                         Buf->buf[a] = ' ';
2421                 else if (Buf->buf[a] == '%') {
2422                         /* don't let % chars through, rather truncate the input. */
2423                         if (a + 2 > Buf->BufUsed) {
2424                                 Buf->buf[a] = '\0';
2425                                 Buf->BufUsed = a;
2426                         }
2427                         else {                  
2428                                 hex[0] = Buf->buf[a + 1];
2429                                 hex[1] = Buf->buf[a + 2];
2430                                 hex[2] = 0;
2431                                 b = 0;
2432                                 sscanf(hex, "%02x", &b);
2433                                 Buf->buf[a] = (char) b;
2434                                 len = Buf->BufUsed - a - 2;
2435                                 if (len > 0)
2436                                         memmove(&Buf->buf[a + 1], &Buf->buf[a + 3], len);
2437                         
2438                                 Buf->BufUsed -=2;
2439                         }
2440                 }
2441                 a++;
2442         }
2443         return a;
2444 }
2445
2446
2447 /**
2448  * \brief       RFC2047-encode a header field if necessary.
2449  *              If no non-ASCII characters are found, the string
2450  *              will be copied verbatim without encoding.
2451  *
2452  * \param       target          Target buffer.
2453  * \param       source          Source string to be encoded.
2454  * \returns     encoded length; -1 if non success.
2455  */
2456 int StrBufRFC2047encode(StrBuf **target, const StrBuf *source)
2457 {
2458         const char headerStr[] = "=?UTF-8?Q?";
2459         int need_to_encode = 0;
2460         int i = 0;
2461         unsigned char ch;
2462
2463         if ((source == NULL) || 
2464             (target == NULL))
2465             return -1;
2466
2467         while ((i < source->BufUsed) &&
2468                (!IsEmptyStr (&source->buf[i])) &&
2469                (need_to_encode == 0)) {
2470                 if (((unsigned char) source->buf[i] < 32) || 
2471                     ((unsigned char) source->buf[i] > 126)) {
2472                         need_to_encode = 1;
2473                 }
2474                 i++;
2475         }
2476
2477         if (!need_to_encode) {
2478                 if (*target == NULL) {
2479                         *target = NewStrBufPlain(source->buf, source->BufUsed);
2480                 }
2481                 else {
2482                         FlushStrBuf(*target);
2483                         StrBufAppendBuf(*target, source, 0);
2484                 }
2485                 return (*target)->BufUsed;
2486         }
2487         if (*target == NULL)
2488                 *target = NewStrBufPlain(NULL, sizeof(headerStr) + source->BufUsed * 2);
2489         else if (sizeof(headerStr) + source->BufUsed >= (*target)->BufSize)
2490                 IncreaseBuf(*target, sizeof(headerStr) + source->BufUsed, 0);
2491         memcpy ((*target)->buf, headerStr, sizeof(headerStr) - 1);
2492         (*target)->BufUsed = sizeof(headerStr) - 1;
2493         for (i=0; (i < source->BufUsed); ++i) {
2494                 if ((*target)->BufUsed + 4 >= (*target)->BufSize)
2495                         IncreaseBuf(*target, 1, 0);
2496                 ch = (unsigned char) source->buf[i];
2497                 if ((ch < 32) || (ch > 126) || (ch == 61)) {
2498                         sprintf(&(*target)->buf[(*target)->BufUsed], "=%02X", ch);
2499                         (*target)->BufUsed += 3;
2500                 }
2501                 else {
2502                         (*target)->buf[(*target)->BufUsed] = ch;
2503                         (*target)->BufUsed++;
2504                 }
2505         }
2506         
2507         if ((*target)->BufUsed + 4 >= (*target)->BufSize)
2508                 IncreaseBuf(*target, 1, 0);
2509
2510         (*target)->buf[(*target)->BufUsed++] = '?';
2511         (*target)->buf[(*target)->BufUsed++] = '=';
2512         (*target)->buf[(*target)->BufUsed] = '\0';
2513         return (*target)->BufUsed;;
2514 }
2515
2516 /**
2517  * \brief replaces all occurances of 'search' by 'replace'
2518  * \param buf Buffer to modify
2519  * \param search character to search
2520  * \param relpace character to replace search by
2521  */
2522 void StrBufReplaceChars(StrBuf *buf, char search, char replace)
2523 {
2524         long i;
2525         if (buf == NULL)
2526                 return;
2527         for (i=0; i<buf->BufUsed; i++)
2528                 if (buf->buf[i] == search)
2529                         buf->buf[i] = replace;
2530
2531 }
2532
2533
2534
2535 /*
2536  * Wrapper around iconv_open()
2537  * Our version adds aliases for non-standard Microsoft charsets
2538  * such as 'MS950', aliasing them to names like 'CP950'
2539  *
2540  * tocode       Target encoding
2541  * fromcode     Source encoding
2542  */
2543 void  ctdl_iconv_open(const char *tocode, const char *fromcode, void *pic)
2544 {
2545 #ifdef HAVE_ICONV
2546         iconv_t ic = (iconv_t)(-1) ;
2547         ic = iconv_open(tocode, fromcode);
2548         if (ic == (iconv_t)(-1) ) {
2549                 char alias_fromcode[64];
2550                 if ( (strlen(fromcode) == 5) && (!strncasecmp(fromcode, "MS", 2)) ) {
2551                         safestrncpy(alias_fromcode, fromcode, sizeof alias_fromcode);
2552                         alias_fromcode[0] = 'C';
2553                         alias_fromcode[1] = 'P';
2554                         ic = iconv_open(tocode, alias_fromcode);
2555                 }
2556         }
2557         *(iconv_t *)pic = ic;
2558 #endif
2559 }
2560
2561
2562
2563 static inline char *FindNextEnd (const StrBuf *Buf, char *bptr)
2564 {
2565         char * end;
2566         /* Find the next ?Q? */
2567         if (Buf->BufUsed - (bptr - Buf->buf)  < 6)
2568                 return NULL;
2569
2570         end = strchr(bptr + 2, '?');
2571
2572         if (end == NULL)
2573                 return NULL;
2574
2575         if ((Buf->BufUsed - (end - Buf->buf) > 3) &&
2576             ((*(end + 1) == 'B') || (*(end + 1) == 'Q')) && 
2577             (*(end + 2) == '?')) {
2578                 /* skip on to the end of the cluster, the next ?= */
2579                 end = strstr(end + 3, "?=");
2580         }
2581         else
2582                 /* sort of half valid encoding, try to find an end. */
2583                 end = strstr(bptr, "?=");
2584         return end;
2585 }
2586
2587 static inline void SwapBuffers(StrBuf *A, StrBuf *B)
2588 {
2589         StrBuf C;
2590
2591         memcpy(&C, A, sizeof(*A));
2592         memcpy(A, B, sizeof(*B));
2593         memcpy(B, &C, sizeof(C));
2594
2595 }
2596
2597 void StrBufConvert(StrBuf *ConvertBuf, StrBuf *TmpBuf, void *pic)
2598 {
2599 #ifdef HAVE_ICONV
2600         long trycount = 0;
2601         size_t siz;
2602         iconv_t ic;
2603         char *ibuf;                     /**< Buffer of characters to be converted */
2604         char *obuf;                     /**< Buffer for converted characters */
2605         size_t ibuflen;                 /**< Length of input buffer */
2606         size_t obuflen;                 /**< Length of output buffer */
2607
2608
2609         /* since we're converting to utf-8, one glyph may take up to 6 bytes */
2610         if (ConvertBuf->BufUsed * 6 >= TmpBuf->BufSize)
2611                 IncreaseBuf(TmpBuf, 0, ConvertBuf->BufUsed * 6);
2612 TRYAGAIN:
2613         ic = *(iconv_t*)pic;
2614         ibuf = ConvertBuf->buf;
2615         ibuflen = ConvertBuf->BufUsed;
2616         obuf = TmpBuf->buf;
2617         obuflen = TmpBuf->BufSize;
2618         
2619         siz = iconv(ic, &ibuf, &ibuflen, &obuf, &obuflen);
2620
2621         if (siz < 0) {
2622                 if (errno == E2BIG) {
2623                         trycount ++;                    
2624                         IncreaseBuf(TmpBuf, 0, 0);
2625                         if (trycount < 5) 
2626                                 goto TRYAGAIN;
2627
2628                 }
2629                 else if (errno == EILSEQ){ 
2630                         /* hm, invalid utf8 sequence... what to do now? */
2631                         /* An invalid multibyte sequence has been encountered in the input */
2632                 }
2633                 else if (errno == EINVAL) {
2634                         /* An incomplete multibyte sequence has been encountered in the input. */
2635                 }
2636
2637                 FlushStrBuf(TmpBuf);
2638         }
2639         else {
2640                 TmpBuf->BufUsed = TmpBuf->BufSize - obuflen;
2641                 TmpBuf->buf[TmpBuf->BufUsed] = '\0';
2642                 
2643                 /* little card game: wheres the red lady? */
2644                 SwapBuffers(ConvertBuf, TmpBuf);
2645                 FlushStrBuf(TmpBuf);
2646         }
2647 #endif
2648 }
2649
2650
2651
2652
2653 inline static void DecodeSegment(StrBuf *Target, 
2654                                  const StrBuf *DecodeMe, 
2655                                  char *SegmentStart, 
2656                                  char *SegmentEnd, 
2657                                  StrBuf *ConvertBuf,
2658                                  StrBuf *ConvertBuf2, 
2659                                  StrBuf *FoundCharset)
2660 {
2661         StrBuf StaticBuf;
2662         char charset[128];
2663         char encoding[16];
2664 #ifdef HAVE_ICONV
2665         iconv_t ic = (iconv_t)(-1);
2666 #endif
2667         /* Now we handle foreign character sets properly encoded
2668          * in RFC2047 format.
2669          */
2670         StaticBuf.buf = SegmentStart;
2671         StaticBuf.BufUsed = SegmentEnd - SegmentStart;
2672         StaticBuf.BufSize = DecodeMe->BufSize - (SegmentStart - DecodeMe->buf);
2673         extract_token(charset, SegmentStart, 1, '?', sizeof charset);
2674         if (FoundCharset != NULL) {
2675                 FlushStrBuf(FoundCharset);
2676                 StrBufAppendBufPlain(FoundCharset, charset, -1, 0);
2677         }
2678         extract_token(encoding, SegmentStart, 2, '?', sizeof encoding);
2679         StrBufExtract_token(ConvertBuf, &StaticBuf, 3, '?');
2680         
2681         *encoding = toupper(*encoding);
2682         if (*encoding == 'B') { /**< base64 */
2683                 ConvertBuf2->BufUsed = CtdlDecodeBase64(ConvertBuf2->buf, 
2684                                                         ConvertBuf->buf, 
2685                                                         ConvertBuf->BufUsed);
2686         }
2687         else if (*encoding == 'Q') {    /**< quoted-printable */
2688                 long pos;
2689                 
2690                 pos = 0;
2691                 while (pos < ConvertBuf->BufUsed)
2692                 {
2693                         if (ConvertBuf->buf[pos] == '_') 
2694                                 ConvertBuf->buf[pos] = ' ';
2695                         pos++;
2696                 }
2697                 
2698                 ConvertBuf2->BufUsed = CtdlDecodeQuotedPrintable(
2699                         ConvertBuf2->buf, 
2700                         ConvertBuf->buf,
2701                         ConvertBuf->BufUsed);
2702         }
2703         else {
2704                 StrBufAppendBuf(ConvertBuf2, ConvertBuf, 0);
2705         }
2706 #ifdef HAVE_ICONV
2707         ctdl_iconv_open("UTF-8", charset, &ic);
2708         if (ic != (iconv_t)(-1) ) {             
2709 #endif
2710                 StrBufConvert(ConvertBuf2, ConvertBuf, &ic);
2711                 StrBufAppendBuf(Target, ConvertBuf2, 0);
2712 #ifdef HAVE_ICONV
2713                 iconv_close(ic);
2714         }
2715         else {
2716                 StrBufAppendBufPlain(Target, HKEY("(unreadable)"), 0);
2717         }
2718 #endif
2719 }
2720 /*
2721  * Handle subjects with RFC2047 encoding such as:
2722  * =?koi8-r?B?78bP0s3Mxc7JxSDXz9rE1dvO2c3JINvB0sHNySDP?=
2723  */
2724 void StrBuf_RFC822_to_Utf8(StrBuf *Target, const StrBuf *DecodeMe, const StrBuf* DefaultCharset, StrBuf *FoundCharset)
2725 {
2726         StrBuf *ConvertBuf, *ConvertBuf2;
2727         char *start, *end, *next, *nextend, *ptr = NULL;
2728 #ifdef HAVE_ICONV
2729         iconv_t ic = (iconv_t)(-1) ;
2730 #endif
2731         const char *eptr;
2732         int passes = 0;
2733         int i, len, delta;
2734         int illegal_non_rfc2047_encoding = 0;
2735
2736         /* Sometimes, badly formed messages contain strings which were simply
2737          *  written out directly in some foreign character set instead of
2738          *  using RFC2047 encoding.  This is illegal but we will attempt to
2739          *  handle it anyway by converting from a user-specified default
2740          *  charset to UTF-8 if we see any nonprintable characters.
2741          */
2742         
2743         len = StrLength(DecodeMe);
2744         for (i=0; i<DecodeMe->BufUsed; ++i) {
2745                 if ((DecodeMe->buf[i] < 32) || (DecodeMe->buf[i] > 126)) {
2746                         illegal_non_rfc2047_encoding = 1;
2747                         break;
2748                 }
2749         }
2750
2751         ConvertBuf = NewStrBufPlain(NULL, StrLength(DecodeMe));
2752         if ((illegal_non_rfc2047_encoding) &&
2753             (strcasecmp(ChrPtr(DefaultCharset), "UTF-8")) && 
2754             (strcasecmp(ChrPtr(DefaultCharset), "us-ascii")) )
2755         {
2756 #ifdef HAVE_ICONV
2757                 ctdl_iconv_open("UTF-8", ChrPtr(DefaultCharset), &ic);
2758                 if (ic != (iconv_t)(-1) ) {
2759                         StrBufConvert((StrBuf*)DecodeMe, ConvertBuf, &ic);///TODO: don't void const?
2760                         iconv_close(ic);
2761                 }
2762 #endif
2763         }
2764
2765         /* pre evaluate the first pair */
2766         nextend = end = NULL;
2767         len = StrLength(DecodeMe);
2768         start = strstr(DecodeMe->buf, "=?");
2769         eptr = DecodeMe->buf + DecodeMe->BufUsed;
2770         if (start != NULL) 
2771                 end = FindNextEnd (DecodeMe, start);
2772         else {
2773                 StrBufAppendBuf(Target, DecodeMe, 0);
2774                 FreeStrBuf(&ConvertBuf);
2775                 return;
2776         }
2777
2778         ConvertBuf2 = NewStrBufPlain(NULL, StrLength(DecodeMe));
2779
2780         if (start != DecodeMe->buf) {
2781                 long nFront;
2782                 
2783                 nFront = start - DecodeMe->buf;
2784                 StrBufAppendBufPlain(Target, DecodeMe->buf, nFront, 0);
2785                 len -= nFront;
2786         }
2787         /*
2788          * Since spammers will go to all sorts of absurd lengths to get their
2789          * messages through, there are LOTS of corrupt headers out there.
2790          * So, prevent a really badly formed RFC2047 header from throwing
2791          * this function into an infinite loop.
2792          */
2793         while ((start != NULL) && 
2794                (end != NULL) && 
2795                (start < eptr) && 
2796                (end < eptr) && 
2797                (passes < 20))
2798         {
2799                 passes++;
2800                 DecodeSegment(Target, 
2801                               DecodeMe, 
2802                               start, 
2803                               end, 
2804                               ConvertBuf,
2805                               ConvertBuf2,
2806                               FoundCharset);
2807                 
2808                 next = strstr(end, "=?");
2809                 nextend = NULL;
2810                 if ((next != NULL) && 
2811                     (next < eptr))
2812                         nextend = FindNextEnd(DecodeMe, next);
2813                 if (nextend == NULL)
2814                         next = NULL;
2815
2816                 /* did we find two partitions */
2817                 if ((next != NULL) && 
2818                     ((next - end) > 2))
2819                 {
2820                         ptr = end + 2;
2821                         while ((ptr < next) && 
2822                                (isspace(*ptr) ||
2823                                 (*ptr == '\r') ||
2824                                 (*ptr == '\n') || 
2825                                 (*ptr == '\t')))
2826                                 ptr ++;
2827                         /* did we find a gab just filled with blanks? */
2828                         if (ptr == next)
2829                         {
2830                                 long gap = next - start;
2831                                 memmove (end + 2,
2832                                          next,
2833                                          len - (gap));
2834                                 len -= gap;
2835                                 /* now terminate the gab at the end */
2836                                 delta = (next - end) - 2; ////TODO: const! 
2837                                 ((StrBuf*)DecodeMe)->BufUsed -= delta;
2838                                 ((StrBuf*)DecodeMe)->buf[DecodeMe->BufUsed] = '\0';
2839
2840                                 /* move next to its new location. */
2841                                 next -= delta;
2842                                 nextend -= delta;
2843                         }
2844                 }
2845                 /* our next-pair is our new first pair now. */
2846                 ptr = end + 2;
2847                 start = next;
2848                 end = nextend;
2849         }
2850         end = ptr;
2851         nextend = DecodeMe->buf + DecodeMe->BufUsed;
2852         if ((end != NULL) && (end < nextend)) {
2853                 ptr = end;
2854                 while ( (ptr < nextend) &&
2855                         (isspace(*ptr) ||
2856                          (*ptr == '\r') ||
2857                          (*ptr == '\n') || 
2858                          (*ptr == '\t')))
2859                         ptr ++;
2860                 if (ptr < nextend)
2861                         StrBufAppendBufPlain(Target, end, nextend - end, 0);
2862         }
2863         FreeStrBuf(&ConvertBuf);
2864         FreeStrBuf(&ConvertBuf2);
2865 }
2866
2867 /**
2868  * \brief evaluate the length of an utf8 special character sequence
2869  * \param Char the character to examine
2870  * \returns width of utf8 chars in bytes
2871  */
2872 static inline int Ctdl_GetUtf8SequenceLength(char *CharS, char *CharE)
2873 {
2874         int n = 1;
2875         char test = (1<<7);
2876         
2877         while ((n < 8) && ((test & *CharS) != 0)) {
2878                 test = test << 1;
2879                 n ++;
2880         }
2881         if ((n > 6) || ((CharE - CharS) > n))
2882                 n = 1;
2883         return n;
2884 }
2885
2886 /**
2887  * \brief detect whether this char starts an utf-8 encoded char
2888  * \param Char character to inspect
2889  * \returns yes or no
2890  */
2891 static inline int Ctdl_IsUtf8SequenceStart(char Char)
2892 {
2893 /** 11??.???? indicates an UTF8 Sequence. */
2894         return ((Char & 0xC0) != 0);
2895 }
2896
2897 /**
2898  * \brief measure the number of glyphs in an UTF8 string...
2899  * \param str string to measure
2900  * \returns the length of str
2901  */
2902 long StrBuf_Utf8StrLen(StrBuf *Buf)
2903 {
2904         int n = 0;
2905         int m = 0;
2906         char *aptr, *eptr;
2907
2908         if ((Buf == NULL) || (Buf->BufUsed == 0))
2909                 return 0;
2910         aptr = Buf->buf;
2911         eptr = Buf->buf + Buf->BufUsed;
2912         while ((aptr < eptr) && (*aptr != '\0')) {
2913                 if (Ctdl_IsUtf8SequenceStart(*aptr)){
2914                         m = Ctdl_GetUtf8SequenceLength(aptr, eptr);
2915                         while ((aptr < eptr) && (m-- > 0) && (*aptr++ != '\0'))
2916                                 n ++;
2917                 }
2918                 else {
2919                         n++;
2920                         aptr++;
2921                 }
2922                         
2923         }
2924         return n;
2925 }
2926
2927 /**
2928  * \brief cuts a string after maxlen glyphs
2929  * \param str string to cut to maxlen glyphs
2930  * \param maxlen how long may the string become?
2931  * \returns pointer to maxlen or the end of the string
2932  */
2933 long StrBuf_Utf8StrCut(StrBuf *Buf, int maxlen)
2934 {
2935         char *aptr, *eptr;
2936         int n = 0, m = 0;
2937
2938         aptr = Buf->buf;
2939         eptr = Buf->buf + Buf->BufUsed;
2940         while ((aptr < eptr) && (*aptr != '\0')) {
2941                 if (Ctdl_IsUtf8SequenceStart(*aptr)){
2942                         m = Ctdl_GetUtf8SequenceLength(aptr, eptr);
2943                         while ((m-- > 0) && (*aptr++ != '\0'))
2944                                 n ++;
2945                 }
2946                 else {
2947                         n++;
2948                         aptr++;
2949                 }
2950                 if (n > maxlen) {
2951                         *aptr = '\0';
2952                         Buf->BufUsed = aptr - Buf->buf;
2953                         return Buf->BufUsed;
2954                 }                       
2955         }
2956         return Buf->BufUsed;
2957
2958 }
2959
2960
2961
2962 int StrBufSipLine(StrBuf *LineBuf, StrBuf *Buf, const char **Ptr)
2963 {
2964         const char *aptr, *ptr, *eptr;
2965         char *optr, *xptr;
2966
2967         if (Buf == NULL)
2968                 return 0;
2969
2970         if (*Ptr==NULL)
2971                 ptr = aptr = Buf->buf;
2972         else
2973                 ptr = aptr = *Ptr;
2974
2975         optr = LineBuf->buf;
2976         eptr = Buf->buf + Buf->BufUsed;
2977         xptr = LineBuf->buf + LineBuf->BufSize - 1;
2978
2979         while ((*ptr != '\n') &&
2980                (*ptr != '\r') &&
2981                (ptr < eptr))
2982         {
2983                 *optr = *ptr;
2984                 optr++; ptr++;
2985                 if (optr == xptr) {
2986                         LineBuf->BufUsed = optr - LineBuf->buf;
2987                         IncreaseBuf(LineBuf,  1, LineBuf->BufUsed + 1);
2988                         optr = LineBuf->buf + LineBuf->BufUsed;
2989                         xptr = LineBuf->buf + LineBuf->BufSize - 1;
2990                 }
2991         }
2992         LineBuf->BufUsed = optr - LineBuf->buf;
2993         *optr = '\0';       
2994         if (*ptr == '\r')
2995                 ptr ++;
2996         if (*ptr == '\n')
2997                 ptr ++;
2998
2999         *Ptr = ptr;
3000
3001         return Buf->BufUsed - (ptr - Buf->buf);
3002 }