Put length in its own variable in KURL copyASCII
[WebKit-https.git] / Source / WebCore / platform / KURL.cpp
1 /*
2  * Copyright (C) 2004, 2007, 2008, 2011 Apple Inc. All rights reserved.
3  *
4  * Redistribution and use in source and binary forms, with or without
5  * modification, are permitted provided that the following conditions
6  * are met:
7  * 1. Redistributions of source code must retain the above copyright
8  *    notice, this list of conditions and the following disclaimer.
9  * 2. Redistributions in binary form must reproduce the above copyright
10  *    notice, this list of conditions and the following disclaimer in the
11  *    documentation and/or other materials provided with the distribution.
12  *
13  * THIS SOFTWARE IS PROVIDED BY APPLE INC. ``AS IS'' AND ANY
14  * EXPRESS OR IMPLIED WARRANTIES, INCLUDING, BUT NOT LIMITED TO, THE
15  * IMPLIED WARRANTIES OF MERCHANTABILITY AND FITNESS FOR A PARTICULAR
16  * PURPOSE ARE DISCLAIMED.  IN NO EVENT SHALL APPLE COMPUTER, INC. OR
17  * CONTRIBUTORS BE LIABLE FOR ANY DIRECT, INDIRECT, INCIDENTAL, SPECIAL,
18  * EXEMPLARY, OR CONSEQUENTIAL DAMAGES (INCLUDING, BUT NOT LIMITED TO,
19  * PROCUREMENT OF SUBSTITUTE GOODS OR SERVICES; LOSS OF USE, DATA, OR
20  * PROFITS; OR BUSINESS INTERRUPTION) HOWEVER CAUSED AND ON ANY THEORY
21  * OF LIABILITY, WHETHER IN CONTRACT, STRICT LIABILITY, OR TORT
22  * (INCLUDING NEGLIGENCE OR OTHERWISE) ARISING IN ANY WAY OUT OF THE USE
23  * OF THIS SOFTWARE, EVEN IF ADVISED OF THE POSSIBILITY OF SUCH DAMAGE. 
24  */
25
26 #include "config.h"
27 #include "KURL.h"
28
29 #include "DecodeEscapeSequences.h"
30 #include "TextEncoding.h"
31 #include <stdio.h>
32 #include <wtf/HashMap.h>
33 #include <wtf/HexNumber.h>
34 #include <wtf/StdLibExtras.h>
35 #include <wtf/text/CString.h>
36 #include <wtf/text/StringBuilder.h>
37 #include <wtf/text/StringHash.h>
38
39 #if USE(ICU_UNICODE)
40 #include <unicode/uidna.h>
41 #elif USE(QT4_UNICODE)
42 #include <QUrl>
43 #elif USE(GLIB_UNICODE)
44 #include <glib.h>
45 #include "GOwnPtr.h"
46 #endif
47
48 // FIXME: This file makes too much use of the + operator on String.
49 // We either have to optimize that operator so it doesn't involve
50 // so many allocations, or change this to use StringBuffer instead.
51
52 using namespace std;
53 using namespace WTF;
54
55 namespace WebCore {
56
57 typedef Vector<char, 512> CharBuffer;
58 typedef Vector<UChar, 512> UCharBuffer;
59
60 static const unsigned maximumValidPortNumber = 0xFFFE;
61 static const unsigned invalidPortNumber = 0xFFFF;
62
63 static inline bool isLetterMatchIgnoringCase(UChar character, char lowercaseLetter)
64 {
65     ASSERT(isASCIILower(lowercaseLetter));
66     return (character | 0x20) == lowercaseLetter;
67 }
68
69 #if !USE(GOOGLEURL)
70
71 static inline bool isLetterMatchIgnoringCase(char character, char lowercaseLetter)
72 {
73     ASSERT(isASCIILower(lowercaseLetter));
74     return (character | 0x20) == lowercaseLetter;
75 }
76
77 enum URLCharacterClasses {
78     // alpha 
79     SchemeFirstChar = 1 << 0,
80
81     // ( alpha | digit | "+" | "-" | "." )
82     SchemeChar = 1 << 1,
83
84     // mark        = "-" | "_" | "." | "!" | "~" | "*" | "'" | "(" | ")"
85     // unreserved  = alphanum | mark
86     // ( unreserved | escaped | ";" | ":" | "&" | "=" | "+" | "$" | "," )
87     UserInfoChar = 1 << 2,
88
89     // alnum | "." | "-" | "%"
90     // The above is what the specification says, but we are lenient to
91     // match existing practice and also allow:
92     // "_"
93     HostnameChar = 1 << 3,
94
95     // hexdigit | ":" | "%"
96     IPv6Char = 1 << 4,
97
98     // "#" | "?" | "/" | nul
99     PathSegmentEndChar = 1 << 5,
100
101     // not allowed in path
102     BadChar = 1 << 6
103 };
104
105 static const unsigned char characterClassTable[256] = {
106     /* 0 nul */ PathSegmentEndChar,    /* 1 soh */ BadChar,
107     /* 2 stx */ BadChar,    /* 3 etx */ BadChar,
108     /* 4 eot */ BadChar,    /* 5 enq */ BadChar,    /* 6 ack */ BadChar,    /* 7 bel */ BadChar,
109     /* 8 bs */ BadChar,     /* 9 ht */ BadChar,     /* 10 nl */ BadChar,    /* 11 vt */ BadChar,
110     /* 12 np */ BadChar,    /* 13 cr */ BadChar,    /* 14 so */ BadChar,    /* 15 si */ BadChar,
111     /* 16 dle */ BadChar,   /* 17 dc1 */ BadChar,   /* 18 dc2 */ BadChar,   /* 19 dc3 */ BadChar,
112     /* 20 dc4 */ BadChar,   /* 21 nak */ BadChar,   /* 22 syn */ BadChar,   /* 23 etb */ BadChar,
113     /* 24 can */ BadChar,   /* 25 em */ BadChar,    /* 26 sub */ BadChar,   /* 27 esc */ BadChar,
114     /* 28 fs */ BadChar,    /* 29 gs */ BadChar,    /* 30 rs */ BadChar,    /* 31 us */ BadChar,
115     /* 32 sp */ BadChar,    /* 33  ! */ UserInfoChar,
116     /* 34  " */ BadChar,    /* 35  # */ PathSegmentEndChar | BadChar,
117     /* 36  $ */ UserInfoChar,    /* 37  % */ UserInfoChar | HostnameChar | IPv6Char | BadChar,
118     /* 38  & */ UserInfoChar,    /* 39  ' */ UserInfoChar,
119     /* 40  ( */ UserInfoChar,    /* 41  ) */ UserInfoChar,
120     /* 42  * */ UserInfoChar,    /* 43  + */ SchemeChar | UserInfoChar,
121     /* 44  , */ UserInfoChar,
122     /* 45  - */ SchemeChar | UserInfoChar | HostnameChar,
123     /* 46  . */ SchemeChar | UserInfoChar | HostnameChar | IPv6Char,
124     /* 47  / */ PathSegmentEndChar,
125     /* 48  0 */ SchemeChar | UserInfoChar | HostnameChar | IPv6Char, 
126     /* 49  1 */ SchemeChar | UserInfoChar | HostnameChar | IPv6Char,    
127     /* 50  2 */ SchemeChar | UserInfoChar | HostnameChar | IPv6Char, 
128     /* 51  3 */ SchemeChar | UserInfoChar | HostnameChar | IPv6Char,
129     /* 52  4 */ SchemeChar | UserInfoChar | HostnameChar | IPv6Char, 
130     /* 53  5 */ SchemeChar | UserInfoChar | HostnameChar | IPv6Char,
131     /* 54  6 */ SchemeChar | UserInfoChar | HostnameChar | IPv6Char, 
132     /* 55  7 */ SchemeChar | UserInfoChar | HostnameChar | IPv6Char,
133     /* 56  8 */ SchemeChar | UserInfoChar | HostnameChar | IPv6Char, 
134     /* 57  9 */ SchemeChar | UserInfoChar | HostnameChar | IPv6Char,
135     /* 58  : */ UserInfoChar | IPv6Char,    /* 59  ; */ UserInfoChar,
136     /* 60  < */ BadChar,    /* 61  = */ UserInfoChar,
137     /* 62  > */ BadChar,    /* 63  ? */ PathSegmentEndChar | BadChar,
138     /* 64  @ */ 0,
139     /* 65  A */ SchemeFirstChar | SchemeChar | UserInfoChar | HostnameChar | IPv6Char,    
140     /* 66  B */ SchemeFirstChar | SchemeChar | UserInfoChar | HostnameChar | IPv6Char,
141     /* 67  C */ SchemeFirstChar | SchemeChar | UserInfoChar | HostnameChar | IPv6Char,
142     /* 68  D */ SchemeFirstChar | SchemeChar | UserInfoChar | HostnameChar | IPv6Char,
143     /* 69  E */ SchemeFirstChar | SchemeChar | UserInfoChar | HostnameChar | IPv6Char,
144     /* 70  F */ SchemeFirstChar | SchemeChar | UserInfoChar | HostnameChar | IPv6Char,
145     /* 71  G */ SchemeFirstChar | SchemeChar | UserInfoChar | HostnameChar,
146     /* 72  H */ SchemeFirstChar | SchemeChar | UserInfoChar | HostnameChar,
147     /* 73  I */ SchemeFirstChar | SchemeChar | UserInfoChar | HostnameChar,
148     /* 74  J */ SchemeFirstChar | SchemeChar | UserInfoChar | HostnameChar,
149     /* 75  K */ SchemeFirstChar | SchemeChar | UserInfoChar | HostnameChar,
150     /* 76  L */ SchemeFirstChar | SchemeChar | UserInfoChar | HostnameChar,
151     /* 77  M */ SchemeFirstChar | SchemeChar | UserInfoChar | HostnameChar,
152     /* 78  N */ SchemeFirstChar | SchemeChar | UserInfoChar | HostnameChar,
153     /* 79  O */ SchemeFirstChar | SchemeChar | UserInfoChar | HostnameChar,
154     /* 80  P */ SchemeFirstChar | SchemeChar | UserInfoChar | HostnameChar,
155     /* 81  Q */ SchemeFirstChar | SchemeChar | UserInfoChar | HostnameChar,
156     /* 82  R */ SchemeFirstChar | SchemeChar | UserInfoChar | HostnameChar,
157     /* 83  S */ SchemeFirstChar | SchemeChar | UserInfoChar | HostnameChar,
158     /* 84  T */ SchemeFirstChar | SchemeChar | UserInfoChar | HostnameChar,
159     /* 85  U */ SchemeFirstChar | SchemeChar | UserInfoChar | HostnameChar,
160     /* 86  V */ SchemeFirstChar | SchemeChar | UserInfoChar | HostnameChar,
161     /* 87  W */ SchemeFirstChar | SchemeChar | UserInfoChar | HostnameChar,
162     /* 88  X */ SchemeFirstChar | SchemeChar | UserInfoChar | HostnameChar, 
163     /* 89  Y */ SchemeFirstChar | SchemeChar | UserInfoChar | HostnameChar,
164     /* 90  Z */ SchemeFirstChar | SchemeChar | UserInfoChar | HostnameChar,
165     /* 91  [ */ 0,
166     /* 92  \ */ 0,    /* 93  ] */ 0,
167     /* 94  ^ */ 0,
168     /* 95  _ */ UserInfoChar | HostnameChar,
169     /* 96  ` */ 0,
170     /* 97  a */ SchemeFirstChar | SchemeChar | UserInfoChar | HostnameChar | IPv6Char,
171     /* 98  b */ SchemeFirstChar | SchemeChar | UserInfoChar | HostnameChar | IPv6Char, 
172     /* 99  c */ SchemeFirstChar | SchemeChar | UserInfoChar | HostnameChar | IPv6Char,
173     /* 100  d */ SchemeFirstChar | SchemeChar | UserInfoChar | HostnameChar | IPv6Char, 
174     /* 101  e */ SchemeFirstChar | SchemeChar | UserInfoChar | HostnameChar | IPv6Char,
175     /* 102  f */ SchemeFirstChar | SchemeChar | UserInfoChar | HostnameChar | IPv6Char, 
176     /* 103  g */ SchemeFirstChar | SchemeChar | UserInfoChar | HostnameChar,
177     /* 104  h */ SchemeFirstChar | SchemeChar | UserInfoChar | HostnameChar, 
178     /* 105  i */ SchemeFirstChar | SchemeChar | UserInfoChar | HostnameChar,
179     /* 106  j */ SchemeFirstChar | SchemeChar | UserInfoChar | HostnameChar, 
180     /* 107  k */ SchemeFirstChar | SchemeChar | UserInfoChar | HostnameChar,
181     /* 108  l */ SchemeFirstChar | SchemeChar | UserInfoChar | HostnameChar, 
182     /* 109  m */ SchemeFirstChar | SchemeChar | UserInfoChar | HostnameChar,
183     /* 110  n */ SchemeFirstChar | SchemeChar | UserInfoChar | HostnameChar, 
184     /* 111  o */ SchemeFirstChar | SchemeChar | UserInfoChar | HostnameChar,
185     /* 112  p */ SchemeFirstChar | SchemeChar | UserInfoChar | HostnameChar, 
186     /* 113  q */ SchemeFirstChar | SchemeChar | UserInfoChar | HostnameChar,
187     /* 114  r */ SchemeFirstChar | SchemeChar | UserInfoChar | HostnameChar, 
188     /* 115  s */ SchemeFirstChar | SchemeChar | UserInfoChar | HostnameChar,
189     /* 116  t */ SchemeFirstChar | SchemeChar | UserInfoChar | HostnameChar, 
190     /* 117  u */ SchemeFirstChar | SchemeChar | UserInfoChar | HostnameChar,
191     /* 118  v */ SchemeFirstChar | SchemeChar | UserInfoChar | HostnameChar, 
192     /* 119  w */ SchemeFirstChar | SchemeChar | UserInfoChar | HostnameChar,
193     /* 120  x */ SchemeFirstChar | SchemeChar | UserInfoChar | HostnameChar, 
194     /* 121  y */ SchemeFirstChar | SchemeChar | UserInfoChar | HostnameChar,
195     /* 122  z */ SchemeFirstChar | SchemeChar | UserInfoChar | HostnameChar, 
196     /* 123  { */ 0,
197     /* 124  | */ 0,   /* 125  } */ 0,   /* 126  ~ */ UserInfoChar,   /* 127 del */ BadChar,
198     /* 128 */ BadChar, /* 129 */ BadChar, /* 130 */ BadChar, /* 131 */ BadChar,
199     /* 132 */ BadChar, /* 133 */ BadChar, /* 134 */ BadChar, /* 135 */ BadChar,
200     /* 136 */ BadChar, /* 137 */ BadChar, /* 138 */ BadChar, /* 139 */ BadChar,
201     /* 140 */ BadChar, /* 141 */ BadChar, /* 142 */ BadChar, /* 143 */ BadChar,
202     /* 144 */ BadChar, /* 145 */ BadChar, /* 146 */ BadChar, /* 147 */ BadChar,
203     /* 148 */ BadChar, /* 149 */ BadChar, /* 150 */ BadChar, /* 151 */ BadChar,
204     /* 152 */ BadChar, /* 153 */ BadChar, /* 154 */ BadChar, /* 155 */ BadChar,
205     /* 156 */ BadChar, /* 157 */ BadChar, /* 158 */ BadChar, /* 159 */ BadChar,
206     /* 160 */ BadChar, /* 161 */ BadChar, /* 162 */ BadChar, /* 163 */ BadChar,
207     /* 164 */ BadChar, /* 165 */ BadChar, /* 166 */ BadChar, /* 167 */ BadChar,
208     /* 168 */ BadChar, /* 169 */ BadChar, /* 170 */ BadChar, /* 171 */ BadChar,
209     /* 172 */ BadChar, /* 173 */ BadChar, /* 174 */ BadChar, /* 175 */ BadChar,
210     /* 176 */ BadChar, /* 177 */ BadChar, /* 178 */ BadChar, /* 179 */ BadChar,
211     /* 180 */ BadChar, /* 181 */ BadChar, /* 182 */ BadChar, /* 183 */ BadChar,
212     /* 184 */ BadChar, /* 185 */ BadChar, /* 186 */ BadChar, /* 187 */ BadChar,
213     /* 188 */ BadChar, /* 189 */ BadChar, /* 190 */ BadChar, /* 191 */ BadChar,
214     /* 192 */ BadChar, /* 193 */ BadChar, /* 194 */ BadChar, /* 195 */ BadChar,
215     /* 196 */ BadChar, /* 197 */ BadChar, /* 198 */ BadChar, /* 199 */ BadChar,
216     /* 200 */ BadChar, /* 201 */ BadChar, /* 202 */ BadChar, /* 203 */ BadChar,
217     /* 204 */ BadChar, /* 205 */ BadChar, /* 206 */ BadChar, /* 207 */ BadChar,
218     /* 208 */ BadChar, /* 209 */ BadChar, /* 210 */ BadChar, /* 211 */ BadChar,
219     /* 212 */ BadChar, /* 213 */ BadChar, /* 214 */ BadChar, /* 215 */ BadChar,
220     /* 216 */ BadChar, /* 217 */ BadChar, /* 218 */ BadChar, /* 219 */ BadChar,
221     /* 220 */ BadChar, /* 221 */ BadChar, /* 222 */ BadChar, /* 223 */ BadChar,
222     /* 224 */ BadChar, /* 225 */ BadChar, /* 226 */ BadChar, /* 227 */ BadChar,
223     /* 228 */ BadChar, /* 229 */ BadChar, /* 230 */ BadChar, /* 231 */ BadChar,
224     /* 232 */ BadChar, /* 233 */ BadChar, /* 234 */ BadChar, /* 235 */ BadChar,
225     /* 236 */ BadChar, /* 237 */ BadChar, /* 238 */ BadChar, /* 239 */ BadChar,
226     /* 240 */ BadChar, /* 241 */ BadChar, /* 242 */ BadChar, /* 243 */ BadChar,
227     /* 244 */ BadChar, /* 245 */ BadChar, /* 246 */ BadChar, /* 247 */ BadChar,
228     /* 248 */ BadChar, /* 249 */ BadChar, /* 250 */ BadChar, /* 251 */ BadChar,
229     /* 252 */ BadChar, /* 253 */ BadChar, /* 254 */ BadChar, /* 255 */ BadChar
230 };
231
232 static int copyPathRemovingDots(char* dst, const char* src, int srcStart, int srcEnd);
233 static void encodeRelativeString(const String& rel, const TextEncoding&, CharBuffer& ouput);
234 static String substituteBackslashes(const String&);
235
236 static inline bool isSchemeFirstChar(char c) { return characterClassTable[static_cast<unsigned char>(c)] & SchemeFirstChar; }
237 static inline bool isSchemeFirstChar(UChar c) { return c <= 0xff && (characterClassTable[c] & SchemeFirstChar); }
238 static inline bool isSchemeChar(char c) { return characterClassTable[static_cast<unsigned char>(c)] & SchemeChar; }
239 static inline bool isSchemeChar(UChar c) { return c <= 0xff && (characterClassTable[c] & SchemeChar); }
240 static inline bool isUserInfoChar(unsigned char c) { return characterClassTable[c] & UserInfoChar; }
241 static inline bool isHostnameChar(unsigned char c) { return characterClassTable[c] & HostnameChar; }
242 static inline bool isIPv6Char(unsigned char c) { return characterClassTable[c] & IPv6Char; }
243 static inline bool isPathSegmentEndChar(char c) { return characterClassTable[static_cast<unsigned char>(c)] & PathSegmentEndChar; }
244 static inline bool isPathSegmentEndChar(UChar c) { return c <= 0xff && (characterClassTable[c] & PathSegmentEndChar); }
245 static inline bool isBadChar(unsigned char c) { return characterClassTable[c] & BadChar; }
246     
247 static inline bool isSchemeCharacterMatchIgnoringCase(char character, char schemeCharacter)
248 {
249     ASSERT(isSchemeChar(character));
250     ASSERT(schemeCharacter & 0x20);
251     ASSERT(isASCIILower(schemeCharacter) || (!isASCIIUpper(schemeCharacter) && isSchemeChar(schemeCharacter)));
252     return (character | 0x20) == schemeCharacter;
253 }
254
255 // Copies the source to the destination, assuming all the source characters are
256 // ASCII. The destination buffer must be large enough. Null characters are allowed
257 // in the source string, and no attempt is made to null-terminate the result.
258 static void copyASCII(const String& string, char* dest)
259 {
260     if (string.isEmpty())
261         return;
262
263     if (string.is8Bit())
264         memcpy(dest, string.characters8(), string.length());
265     else {
266         const UChar* src = string.characters16();
267         size_t length = string.length();
268         for (size_t i = 0; i < length; i++)
269             dest[i] = static_cast<char>(src[i]);
270     }
271 }
272
273 static void appendASCII(const String& base, const char* rel, size_t len, CharBuffer& buffer)
274 {
275     buffer.resize(base.length() + len + 1);
276     copyASCII(base, buffer.data());
277     memcpy(buffer.data() + base.length(), rel, len);
278     buffer[buffer.size() - 1] = '\0';
279 }
280
281 // FIXME: Move to PlatformString.h eventually.
282 // Returns the index of the first index in string |s| of any of the characters
283 // in |toFind|. |toFind| should be a null-terminated string, all characters up
284 // to the null will be searched. Returns int if not found.
285 static int findFirstOf(const UChar* s, int sLen, int startPos, const char* toFind)
286 {
287     for (int i = startPos; i < sLen; i++) {
288         const char* cur = toFind;
289         while (*cur) {
290             if (s[i] == *(cur++))
291                 return i;
292         }
293     }
294     return -1;
295 }
296
297 static inline void checkEncodedString(const String& url)
298 {
299     UNUSED_PARAM(url);
300     ASSERT(url.containsOnlyASCII());
301     ASSERT(url.isEmpty() || isSchemeFirstChar(url[0]));
302 }
303
304 inline bool KURL::protocolIs(const String& string, const char* protocol)
305 {
306     return WebCore::protocolIs(string, protocol);
307 }
308
309 void KURL::invalidate()
310 {
311     m_isValid = false;
312     m_protocolIsInHTTPFamily = false;
313     m_schemeEnd = 0;
314     m_userStart = 0;
315     m_userEnd = 0;
316     m_passwordEnd = 0;
317     m_hostEnd = 0;
318     m_portEnd = 0;
319     m_pathEnd = 0;
320     m_pathAfterLastSlash = 0;
321     m_queryEnd = 0;
322     m_fragmentEnd = 0;
323 }
324
325 KURL::KURL(ParsedURLStringTag, const String& url)
326 {
327     parse(url);
328     ASSERT(url == m_string);
329 }
330
331 KURL::KURL(ParsedURLStringTag, const URLString& url)
332 {
333     parse(url.string());
334     ASSERT(url.string() == m_string);
335 }
336
337 KURL::KURL(const KURL& base, const String& relative)
338 {
339     init(base, relative, UTF8Encoding());
340 }
341
342 KURL::KURL(const KURL& base, const String& relative, const TextEncoding& encoding)
343 {
344     // For UTF-{7,16,32}, we want to use UTF-8 for the query part as 
345     // we do when submitting a form. A form with GET method
346     // has its contents added to a URL as query params and it makes sense
347     // to be consistent.
348     init(base, relative, encoding.encodingForFormSubmission());
349 }
350
351 static bool shouldTrimFromURL(unsigned char c)
352 {
353     // Browsers ignore leading/trailing whitespace and control
354     // characters from URLs.  Note that c is an *unsigned* char here
355     // so this comparison should only catch control characters.
356     return c <= ' ';
357 }
358
359 void KURL::init(const KURL& base, const String& relative, const TextEncoding& encoding)
360 {
361     // Allow resolutions with a null or empty base URL, but not with any other invalid one.
362     // FIXME: Is this a good rule?
363     if (!base.m_isValid && !base.isEmpty()) {
364         m_string = relative;
365         invalidate();
366         return;
367     }
368
369     // For compatibility with Win IE, treat backslashes as if they were slashes,
370     // as long as we're not dealing with javascript: or data: URLs.
371     String rel = relative;
372     if (rel.contains('\\') && !(protocolIsJavaScript(rel) || protocolIs(rel, "data")))
373         rel = substituteBackslashes(rel);
374
375     bool allASCII = rel.containsOnlyASCII();
376     CharBuffer strBuffer;
377     char* str;
378     size_t len;
379     if (allASCII) {
380         len = rel.length();
381         strBuffer.resize(len + 1);
382         copyASCII(rel, strBuffer.data());
383         strBuffer[len] = 0;
384         str = strBuffer.data();
385     } else {
386         encodeRelativeString(rel, encoding, strBuffer);
387         str = strBuffer.data();
388         len = strlen(str);
389     }
390
391     // Get rid of leading whitespace and control characters.
392     while (len && shouldTrimFromURL(*str)) {
393         str++;
394         --len;
395     }
396
397     // Get rid of trailing whitespace and control characters.
398     while (len && shouldTrimFromURL(str[len - 1]))
399         str[--len] = '\0';
400
401     // According to the RFC, the reference should be interpreted as an
402     // absolute URI if possible, using the "leftmost, longest"
403     // algorithm. If the URI reference is absolute it will have a
404     // scheme, meaning that it will have a colon before the first
405     // non-scheme element.
406     bool absolute = false;
407     char* p = str;
408     if (isSchemeFirstChar(*p)) {
409         ++p;
410         while (isSchemeChar(*p)) {
411             ++p;
412         }
413         if (*p == ':') {
414             if (p[1] != '/' && equalIgnoringCase(base.protocol(), String(str, p - str)) && base.isHierarchical())
415                 str = p + 1;
416             else
417                 absolute = true;
418         }
419     }
420
421     CharBuffer parseBuffer;
422
423     if (absolute) {
424         parse(str, &relative);
425     } else {
426         // If the base is empty or opaque (e.g. data: or javascript:), then the URL is invalid
427         // unless the relative URL is a single fragment.
428         if (!base.isHierarchical()) {
429             if (str[0] == '#') {
430                 appendASCII(base.m_string.left(base.m_queryEnd), str, len, parseBuffer);
431                 parse(parseBuffer.data(), &relative);
432             } else {
433                 m_string = relative;
434                 invalidate();
435             }
436             return;
437         }
438
439         switch (str[0]) {
440         case '\0':
441             // The reference is empty, so this is a reference to the same document with any fragment identifier removed.
442             *this = base;
443             removeFragmentIdentifier();
444             break;
445         case '#': {
446             // must be fragment-only reference
447             appendASCII(base.m_string.left(base.m_queryEnd), str, len, parseBuffer);
448             parse(parseBuffer.data(), &relative);
449             break;
450         }
451         case '?': {
452             // query-only reference, special case needed for non-URL results
453             appendASCII(base.m_string.left(base.m_pathEnd), str, len, parseBuffer);
454             parse(parseBuffer.data(), &relative);
455             break;
456         }
457         case '/':
458             // must be net-path or absolute-path reference
459             if (str[1] == '/') {
460                 // net-path
461                 appendASCII(base.m_string.left(base.m_schemeEnd + 1), str, len, parseBuffer);
462                 parse(parseBuffer.data(), &relative);
463             } else {
464                 // abs-path
465                 appendASCII(base.m_string.left(base.m_portEnd), str, len, parseBuffer);
466                 parse(parseBuffer.data(), &relative);
467             }
468             break;
469         default:
470             {
471                 // must be relative-path reference
472
473                 // Base part plus relative part plus one possible slash added in between plus terminating \0 byte.
474                 const size_t bufferSize = base.m_pathEnd + 1 + len + 1;
475                 parseBuffer.resize(bufferSize);
476
477                 char* bufferPos = parseBuffer.data();
478                 char* bufferStart = bufferPos;
479
480                 // first copy everything before the path from the base
481                 CharBuffer baseStringBuffer(base.m_string.length());
482                 copyASCII(base.m_string, baseStringBuffer.data());
483                 const char* baseString = baseStringBuffer.data();
484                 const char* baseStringStart = baseString;
485                 const char* pathStart = baseStringStart + base.m_portEnd;
486                 while (baseStringStart < pathStart)
487                     *bufferPos++ = *baseStringStart++;
488                 char* bufferPathStart = bufferPos;
489
490                 // now copy the base path
491                 const char* baseStringEnd = baseString + base.m_pathEnd;
492
493                 // go back to the last slash
494                 while (baseStringEnd > baseStringStart && baseStringEnd[-1] != '/')
495                     baseStringEnd--;
496
497                 if (baseStringEnd == baseStringStart) {
498                     // no path in base, add a path separator if necessary
499                     if (base.m_schemeEnd + 1 != base.m_pathEnd && *str && *str != '?' && *str != '#')
500                         *bufferPos++ = '/';
501                 } else {
502                     bufferPos += copyPathRemovingDots(bufferPos, baseStringStart, 0, baseStringEnd - baseStringStart);
503                 }
504
505                 const char* relStringStart = str;
506                 const char* relStringPos = relStringStart;
507
508                 while (*relStringPos && *relStringPos != '?' && *relStringPos != '#') {
509                     if (relStringPos[0] == '.' && bufferPos[-1] == '/') {
510                         if (isPathSegmentEndChar(relStringPos[1])) {
511                             // skip over "." segment
512                             relStringPos += 1;
513                             if (relStringPos[0] == '/')
514                                 relStringPos++;
515                             continue;
516                         } else if (relStringPos[1] == '.' && isPathSegmentEndChar(relStringPos[2])) {
517                             // skip over ".." segment and rewind the last segment
518                             // the RFC leaves it up to the app to decide what to do with excess
519                             // ".." segments - we choose to drop them since some web content
520                             // relies on this.
521                             relStringPos += 2;
522                             if (relStringPos[0] == '/')
523                                 relStringPos++;
524                             if (bufferPos > bufferPathStart + 1)
525                                 bufferPos--;
526                             while (bufferPos > bufferPathStart + 1  && bufferPos[-1] != '/')
527                                 bufferPos--;
528                             continue;
529                         }
530                     }
531
532                     *bufferPos = *relStringPos;
533                     relStringPos++;
534                     bufferPos++;
535                 }
536
537                 // all done with the path work, now copy any remainder
538                 // of the relative reference; this will also add a null terminator
539                 strncpy(bufferPos, relStringPos, bufferSize - (bufferPos - bufferStart));
540
541                 parse(parseBuffer.data(), &relative);
542
543                 ASSERT(strlen(parseBuffer.data()) + 1 <= parseBuffer.size());
544                 break;
545             }
546         }
547     }
548 }
549
550 KURL KURL::copy() const
551 {
552     KURL result = *this;
553     result.m_string = result.m_string.isolatedCopy();
554     return result;
555 }
556
557 bool KURL::hasPath() const
558 {
559     return m_pathEnd != m_portEnd;
560 }
561
562 String KURL::lastPathComponent() const
563 {
564     if (!hasPath())
565         return String();
566
567     unsigned end = m_pathEnd - 1;
568     if (m_string[end] == '/')
569         --end;
570
571     size_t start = m_string.reverseFind('/', end);
572     if (start < static_cast<unsigned>(m_portEnd))
573         return String();
574     ++start;
575
576     return m_string.substring(start, end - start + 1);
577 }
578
579 String KURL::protocol() const
580 {
581     return m_string.left(m_schemeEnd);
582 }
583
584 String KURL::host() const
585 {
586     int start = hostStart();
587     return decodeURLEscapeSequences(m_string.substring(start, m_hostEnd - start));
588 }
589
590 unsigned short KURL::port() const
591 {
592     // We return a port of 0 if there is no port specified. This can happen in two situations:
593     // 1) The URL contains no colon after the host name and before the path component of the URL.
594     // 2) The URL contains a colon but there's no port number before the path component of the URL begins.
595     if (m_hostEnd == m_portEnd || m_hostEnd == m_portEnd - 1)
596         return 0;
597
598     const UChar* stringData = m_string.characters();
599     bool ok = false;
600     unsigned number = charactersToUIntStrict(stringData + m_hostEnd + 1, m_portEnd - m_hostEnd - 1, &ok);
601     if (!ok || number > maximumValidPortNumber)
602         return invalidPortNumber;
603     return number;
604 }
605
606 String KURL::pass() const
607 {
608     if (m_passwordEnd == m_userEnd)
609         return String();
610
611     return decodeURLEscapeSequences(m_string.substring(m_userEnd + 1, m_passwordEnd - m_userEnd - 1)); 
612 }
613
614 String KURL::user() const
615 {
616     return decodeURLEscapeSequences(m_string.substring(m_userStart, m_userEnd - m_userStart));
617 }
618
619 String KURL::fragmentIdentifier() const
620 {
621     if (m_fragmentEnd == m_queryEnd)
622         return String();
623
624     return m_string.substring(m_queryEnd + 1, m_fragmentEnd - (m_queryEnd + 1));
625 }
626
627 bool KURL::hasFragmentIdentifier() const
628 {
629     return m_fragmentEnd != m_queryEnd;
630 }
631
632 void KURL::copyParsedQueryTo(ParsedURLParameters& parameters) const
633 {
634     const UChar* pos = m_string.characters() + m_pathEnd + 1;
635     const UChar* end = m_string.characters() + m_queryEnd;
636     while (pos < end) {
637         const UChar* parameterStart = pos;
638         while (pos < end && *pos != '&')
639             ++pos;
640         const UChar* parameterEnd = pos;
641         if (pos < end) {
642             ASSERT(*pos == '&');
643             ++pos;
644         }
645         if (parameterStart == parameterEnd)
646             continue;
647         const UChar* nameStart = parameterStart;
648         const UChar* equalSign = parameterStart;
649         while (equalSign < parameterEnd && *equalSign != '=')
650             ++equalSign;
651         if (equalSign == nameStart)
652             continue;
653         String name(nameStart, equalSign - nameStart);
654         String value = equalSign == parameterEnd ? String() : String(equalSign + 1, parameterEnd - equalSign - 1);
655         parameters.set(name, value);
656     }
657 }
658
659 String KURL::baseAsString() const
660 {
661     return m_string.left(m_pathAfterLastSlash);
662 }
663
664 #ifdef NDEBUG
665
666 static inline void assertProtocolIsGood(const char*)
667 {
668 }
669
670 #else
671
672 static void assertProtocolIsGood(const char* protocol)
673 {
674     const char* p = protocol;
675     while (*p) {
676         ASSERT(*p > ' ' && *p < 0x7F && !(*p >= 'A' && *p <= 'Z'));
677         ++p;
678     }
679 }
680
681 #endif
682
683 bool KURL::protocolIs(const char* protocol) const
684 {
685     assertProtocolIsGood(protocol);
686
687     // JavaScript URLs are "valid" and should be executed even if KURL decides they are invalid.
688     // The free function protocolIsJavaScript() should be used instead. 
689     ASSERT(!equalIgnoringCase(protocol, String("javascript")));
690
691     if (!m_isValid)
692         return false;
693
694     // Do the comparison without making a new string object.
695     for (int i = 0; i < m_schemeEnd; ++i) {
696         if (!protocol[i] || !isSchemeCharacterMatchIgnoringCase(m_string[i], protocol[i]))
697             return false;
698     }
699     return !protocol[m_schemeEnd]; // We should have consumed all characters in the argument.
700 }
701
702 String KURL::query() const
703 {
704     if (m_queryEnd == m_pathEnd)
705         return String();
706
707     return m_string.substring(m_pathEnd + 1, m_queryEnd - (m_pathEnd + 1)); 
708 }
709
710 String KURL::path() const
711 {
712     return m_string.substring(m_portEnd, m_pathEnd - m_portEnd);
713 }
714
715 bool KURL::setProtocol(const String& s)
716 {
717     // Firefox and IE remove everything after the first ':'.
718     size_t separatorPosition = s.find(':');
719     String newProtocol = s.substring(0, separatorPosition);
720
721     if (!isValidProtocol(newProtocol))
722         return false;
723
724     if (!m_isValid) {
725         parse(newProtocol + ":" + m_string);
726         return true;
727     }
728
729     parse(newProtocol + m_string.substring(m_schemeEnd));
730     return true;
731 }
732
733 void KURL::setHost(const String& s)
734 {
735     if (!m_isValid)
736         return;
737
738     // FIXME: Non-ASCII characters must be encoded and escaped to match parse() expectations,
739     // and to avoid changing more than just the host.
740
741     bool slashSlashNeeded = m_userStart == m_schemeEnd + 1;
742
743     parse(m_string.left(hostStart()) + (slashSlashNeeded ? "//" : "") + s + m_string.substring(m_hostEnd));
744 }
745
746 void KURL::removePort()
747 {
748     if (m_hostEnd == m_portEnd)
749         return;
750     parse(m_string.left(m_hostEnd) + m_string.substring(m_portEnd));
751 }
752
753 void KURL::setPort(unsigned short i)
754 {
755     if (!m_isValid)
756         return;
757
758     bool colonNeeded = m_portEnd == m_hostEnd;
759     int portStart = (colonNeeded ? m_hostEnd : m_hostEnd + 1);
760
761     parse(m_string.left(portStart) + (colonNeeded ? ":" : "") + String::number(i) + m_string.substring(m_portEnd));
762 }
763
764 void KURL::setHostAndPort(const String& hostAndPort)
765 {
766     if (!m_isValid)
767         return;
768
769     // FIXME: Non-ASCII characters must be encoded and escaped to match parse() expectations,
770     // and to avoid changing more than just host and port.
771
772     bool slashSlashNeeded = m_userStart == m_schemeEnd + 1;
773
774     parse(m_string.left(hostStart()) + (slashSlashNeeded ? "//" : "") + hostAndPort + m_string.substring(m_portEnd));
775 }
776
777 void KURL::setUser(const String& user)
778 {
779     if (!m_isValid)
780         return;
781
782     // FIXME: Non-ASCII characters must be encoded and escaped to match parse() expectations,
783     // and to avoid changing more than just the user login.
784     String u;
785     int end = m_userEnd;
786     if (!user.isEmpty()) {
787         u = user;
788         if (m_userStart == m_schemeEnd + 1)
789             u = "//" + u;
790         // Add '@' if we didn't have one before.
791         if (end == m_hostEnd || (end == m_passwordEnd && m_string[end] != '@'))
792             u.append('@');
793     } else {
794         // Remove '@' if we now have neither user nor password.
795         if (m_userEnd == m_passwordEnd && end != m_hostEnd && m_string[end] == '@')
796             end += 1;
797     }
798     parse(m_string.left(m_userStart) + u + m_string.substring(end));
799 }
800
801 void KURL::setPass(const String& password)
802 {
803     if (!m_isValid)
804         return;
805
806     // FIXME: Non-ASCII characters must be encoded and escaped to match parse() expectations,
807     // and to avoid changing more than just the user password.
808     String p;
809     int end = m_passwordEnd;
810     if (!password.isEmpty()) {
811         p = ":" + password + "@";
812         if (m_userEnd == m_schemeEnd + 1)
813             p = "//" + p;
814         // Eat the existing '@' since we are going to add our own.
815         if (end != m_hostEnd && m_string[end] == '@')
816             end += 1;
817     } else {
818         // Remove '@' if we now have neither user nor password.
819         if (m_userStart == m_userEnd && end != m_hostEnd && m_string[end] == '@')
820             end += 1;
821     }
822     parse(m_string.left(m_userEnd) + p + m_string.substring(end));
823 }
824
825 void KURL::setFragmentIdentifier(const String& s)
826 {
827     if (!m_isValid)
828         return;
829
830     // FIXME: Non-ASCII characters must be encoded and escaped to match parse() expectations.
831     parse(m_string.left(m_queryEnd) + "#" + s);
832 }
833
834 void KURL::removeFragmentIdentifier()
835 {
836     if (!m_isValid)
837         return;
838     parse(m_string.left(m_queryEnd));
839 }
840     
841 void KURL::setQuery(const String& query)
842 {
843     if (!m_isValid)
844         return;
845
846     // FIXME: '#' and non-ASCII characters must be encoded and escaped.
847     // Usually, the query is encoded using document encoding, not UTF-8, but we don't have
848     // access to the document in this function.
849     if ((query.isEmpty() || query[0] != '?') && !query.isNull())
850         parse(m_string.left(m_pathEnd) + "?" + query + m_string.substring(m_queryEnd));
851     else
852         parse(m_string.left(m_pathEnd) + query + m_string.substring(m_queryEnd));
853
854 }
855
856 void KURL::setPath(const String& s)
857 {
858     if (!m_isValid)
859         return;
860
861     // FIXME: encodeWithURLEscapeSequences does not correctly escape '#' and '?', so fragment and query parts
862     // may be inadvertently affected.
863     String path = s;
864     if (path.isEmpty() || path[0] != '/')
865         path = "/" + path;
866
867     parse(m_string.left(m_portEnd) + encodeWithURLEscapeSequences(path) + m_string.substring(m_pathEnd));
868 }
869
870 String KURL::deprecatedString() const
871 {
872     if (!m_isValid)
873         return m_string;
874
875     StringBuilder result;
876
877     result.append(protocol());
878     result.append(':');
879
880     StringBuilder authority;
881
882     if (m_hostEnd != m_passwordEnd) {
883         if (m_userEnd != m_userStart) {
884             authority.append(user());
885             authority.append('@');
886         }
887         authority.append(host());
888         if (hasPort()) {
889             authority.append(':');
890             authority.append(String::number(port()));
891         }
892     }
893
894     if (!authority.isEmpty()) {
895         result.append('/');
896         result.append('/');
897         result.append(authority.characters(), authority.length());
898     } else if (protocolIs("file")) {
899         result.append('/');
900         result.append('/');
901     }
902
903     result.append(path());
904
905     if (m_pathEnd != m_queryEnd) {
906         result.append('?');
907         result.append(query());
908     }
909
910     if (m_fragmentEnd != m_queryEnd) {
911         result.append('#');
912         result.append(fragmentIdentifier());
913     }
914
915     return result.toString();
916 }
917
918 String decodeURLEscapeSequences(const String& string)
919 {
920     return decodeEscapeSequences<URLEscapeSequence>(string, UTF8Encoding());
921 }
922
923 String decodeURLEscapeSequences(const String& string, const TextEncoding& encoding)
924 {
925     return decodeEscapeSequences<URLEscapeSequence>(string, encoding);
926 }
927
928 // Caution: This function does not bounds check.
929 static void appendEscapedChar(char*& buffer, unsigned char c)
930 {
931     *buffer++ = '%';
932     placeByteAsHex(c, buffer);
933 }
934
935 static void appendEscapingBadChars(char*& buffer, const char* strStart, size_t length)
936 {
937     char* p = buffer;
938
939     const char* str = strStart;
940     const char* strEnd = strStart + length;
941     while (str < strEnd) {
942         unsigned char c = *str++;
943         if (isBadChar(c)) {
944             if (c == '%' || c == '?')
945                 *p++ = c;
946             else if (c != 0x09 && c != 0x0a && c != 0x0d)
947                 appendEscapedChar(p, c);
948         } else
949             *p++ = c;
950     }
951
952     buffer = p;
953 }
954
955 static void escapeAndAppendNonHierarchicalPart(char*& buffer, const char* strStart, size_t length)
956 {
957     char* p = buffer;
958
959     const char* str = strStart;
960     const char* strEnd = strStart + length;
961     while (str < strEnd) {
962         unsigned char c = *str++;
963         // Strip CR, LF and Tab from fragments, per:
964         // https://bugs.webkit.org/show_bug.cgi?id=8770
965         if (c == 0x09 || c == 0x0a || c == 0x0d)
966             continue;
967
968         // Chrome and IE allow non-ascii characters in fragments, however doing
969         // so would hit an ASSERT in checkEncodedString, so for now we don't.
970         if (c < 0x20 || c >= 127) {
971             appendEscapedChar(p, c);
972             continue;
973         }
974         *p++ = c;
975     }
976
977     buffer = p;
978 }
979
980 // copy a path, accounting for "." and ".." segments
981 static int copyPathRemovingDots(char* dst, const char* src, int srcStart, int srcEnd)
982 {
983     char* bufferPathStart = dst;
984
985     // empty path is a special case, and need not have a leading slash
986     if (srcStart != srcEnd) {
987         const char* baseStringStart = src + srcStart;
988         const char* baseStringEnd = src + srcEnd;
989         const char* baseStringPos = baseStringStart;
990
991         // this code is unprepared for paths that do not begin with a
992         // slash and we should always have one in the source string
993         ASSERT(baseStringPos[0] == '/');
994
995         // copy the leading slash into the destination
996         *dst = *baseStringPos;
997         baseStringPos++;
998         dst++;
999
1000         while (baseStringPos < baseStringEnd) {
1001             if (baseStringPos[0] == '.' && dst[-1] == '/') {
1002                 if (baseStringPos[1] == '/' || baseStringPos + 1 == baseStringEnd) {
1003                     // skip over "." segment
1004                     baseStringPos += 2;
1005                     continue;
1006                 } else if (baseStringPos[1] == '.' && (baseStringPos[2] == '/' ||
1007                                        baseStringPos + 2 == baseStringEnd)) {
1008                     // skip over ".." segment and rewind the last segment
1009                     // the RFC leaves it up to the app to decide what to do with excess
1010                     // ".." segments - we choose to drop them since some web content
1011                     // relies on this.
1012                     baseStringPos += 3;
1013                     if (dst > bufferPathStart + 1)
1014                         dst--;
1015                     while (dst > bufferPathStart && dst[-1] != '/')
1016                         dst--;
1017                     continue;
1018                 }
1019             }
1020
1021             *dst = *baseStringPos;
1022             baseStringPos++;
1023             dst++;
1024         }
1025     }
1026     *dst = '\0';
1027     return dst - bufferPathStart;
1028 }
1029
1030 static inline bool hasSlashDotOrDotDot(const char* str)
1031 {
1032     const unsigned char* p = reinterpret_cast<const unsigned char*>(str);
1033     if (!*p)
1034         return false;
1035     unsigned char pc = *p;
1036     while (unsigned char c = *++p) {
1037         if (c == '.' && (pc == '/' || pc == '.'))
1038             return true;
1039         pc = c;
1040     }
1041     return false;
1042 }
1043
1044 void KURL::parse(const String& string)
1045 {
1046     checkEncodedString(string);
1047
1048     CharBuffer buffer(string.length() + 1);
1049     copyASCII(string, buffer.data());
1050     buffer[string.length()] = '\0';
1051     parse(buffer.data(), &string);
1052 }
1053
1054 static inline bool equal(const char* a, size_t lenA, const char* b, size_t lenB)
1055 {
1056     if (lenA != lenB)
1057         return false;
1058     return !strncmp(a, b, lenA);
1059 }
1060
1061 // List of default schemes is taken from google-url:
1062 // http://code.google.com/p/google-url/source/browse/trunk/src/url_canon_stdurl.cc#120
1063 static inline bool isDefaultPortForScheme(const char* port, size_t portLength, const char* scheme, size_t schemeLength)
1064 {
1065     // This switch is theoretically a performance optimization.  It came over when
1066     // the code was moved from google-url, but may be removed later.
1067     switch (schemeLength) {
1068     case 2:
1069         return equal("ws", 2, scheme, schemeLength) && equal("80", 2, port, portLength);
1070     case 3:
1071         if (equal("ftp", 3, scheme, schemeLength))
1072             return equal("21", 2, port, portLength);
1073         if (equal("wss", 3, scheme, schemeLength))
1074             return equal("443", 3, port, portLength);
1075         break;
1076     case 4:
1077         return equal("http", 4, scheme, schemeLength) && equal("80", 2, port, portLength);
1078     case 5:
1079         return equal("https", 5, scheme, schemeLength) && equal("443", 3, port, portLength);
1080     case 6:
1081         return equal("gopher", 6, scheme, schemeLength) && equal("70", 2, port, portLength);
1082     }
1083     return false;
1084 }
1085
1086 static inline bool hostPortIsEmptyButCredentialsArePresent(int hostStart, int portEnd, char userEndChar)
1087 {
1088     return userEndChar == '@' && hostStart == portEnd;
1089 }
1090
1091 static bool isNonFileHierarchicalScheme(const char* scheme, size_t schemeLength)
1092 {
1093     switch (schemeLength) {
1094     case 2:
1095         return equal("ws", 2, scheme, schemeLength);
1096     case 3:
1097         return equal("ftp", 3, scheme, schemeLength) || equal("wss", 3, scheme, schemeLength);
1098     case 4:
1099         return equal("http", 4, scheme, schemeLength);
1100     case 5:
1101         return equal("https", 5, scheme, schemeLength);
1102     case 6:
1103         return equal("gopher", 6, scheme, schemeLength);
1104     }
1105     return false;
1106 }
1107
1108 void KURL::parse(const char* url, const String* originalString)
1109 {
1110     if (!url || url[0] == '\0') {
1111         // valid URL must be non-empty
1112         m_string = originalString ? *originalString : url;
1113         invalidate();
1114         return;
1115     }
1116
1117     if (!isSchemeFirstChar(url[0])) {
1118         // scheme must start with an alphabetic character
1119         m_string = originalString ? *originalString : url;
1120         invalidate();
1121         return;
1122     }
1123
1124     int schemeEnd = 0;
1125     while (isSchemeChar(url[schemeEnd]))
1126         schemeEnd++;
1127
1128     if (url[schemeEnd] != ':') {
1129         m_string = originalString ? *originalString : url;
1130         invalidate();
1131         return;
1132     }
1133
1134     int userStart = schemeEnd + 1;
1135     int userEnd;
1136     int passwordStart;
1137     int passwordEnd;
1138     int hostStart;
1139     int hostEnd;
1140     int portStart;
1141     int portEnd;
1142
1143     bool hierarchical = url[schemeEnd + 1] == '/';
1144     bool hasSecondSlash = hierarchical && url[schemeEnd + 2] == '/';
1145
1146     bool isFile = schemeEnd == 4
1147         && isLetterMatchIgnoringCase(url[0], 'f')
1148         && isLetterMatchIgnoringCase(url[1], 'i')
1149         && isLetterMatchIgnoringCase(url[2], 'l')
1150         && isLetterMatchIgnoringCase(url[3], 'e');
1151
1152     m_protocolIsInHTTPFamily = isLetterMatchIgnoringCase(url[0], 'h')
1153         && isLetterMatchIgnoringCase(url[1], 't')
1154         && isLetterMatchIgnoringCase(url[2], 't')
1155         && isLetterMatchIgnoringCase(url[3], 'p')
1156         && (url[4] == ':' || (isLetterMatchIgnoringCase(url[4], 's') && url[5] == ':'));
1157
1158     if ((hierarchical && hasSecondSlash) || isNonFileHierarchicalScheme(url, schemeEnd)) {
1159         // The part after the scheme is either a net_path or an abs_path whose first path segment is empty.
1160         // Attempt to find an authority.
1161         // FIXME: Authority characters may be scanned twice, and it would be nice to be faster.
1162
1163         if (hierarchical)
1164             userStart++;
1165         if (hasSecondSlash)
1166             userStart++;
1167         userEnd = userStart;
1168
1169         int colonPos = 0;
1170         while (isUserInfoChar(url[userEnd])) {
1171             if (url[userEnd] == ':' && colonPos == 0)
1172                 colonPos = userEnd;
1173             userEnd++;
1174         }
1175
1176         if (url[userEnd] == '@') {
1177             // actual end of the userinfo, start on the host
1178             if (colonPos != 0) {
1179                 passwordEnd = userEnd;
1180                 userEnd = colonPos;
1181                 passwordStart = colonPos + 1;
1182             } else
1183                 passwordStart = passwordEnd = userEnd;
1184
1185             hostStart = passwordEnd + 1;
1186         } else if (url[userEnd] == '[' || isPathSegmentEndChar(url[userEnd])) {
1187             // hit the end of the authority, must have been no user
1188             // or looks like an IPv6 hostname
1189             // either way, try to parse it as a hostname
1190             userEnd = userStart;
1191             passwordStart = passwordEnd = userEnd;
1192             hostStart = userStart;
1193         } else {
1194             // invalid character
1195             m_string = originalString ? *originalString : url;
1196             invalidate();
1197             return;
1198         }
1199
1200         hostEnd = hostStart;
1201
1202         // IPV6 IP address
1203         if (url[hostEnd] == '[') {
1204             hostEnd++;
1205             while (isIPv6Char(url[hostEnd]))
1206                 hostEnd++;
1207             if (url[hostEnd] == ']')
1208                 hostEnd++;
1209             else {
1210                 // invalid character
1211                 m_string = originalString ? *originalString : url;
1212                 invalidate();
1213                 return;
1214             }
1215         } else {
1216             while (isHostnameChar(url[hostEnd]))
1217                 hostEnd++;
1218         }
1219         
1220         if (url[hostEnd] == ':') {
1221             portStart = portEnd = hostEnd + 1;
1222  
1223             // possible start of port
1224             portEnd = portStart;
1225             while (isASCIIDigit(url[portEnd]))
1226                 portEnd++;
1227         } else
1228             portStart = portEnd = hostEnd;
1229
1230         if (!isPathSegmentEndChar(url[portEnd])) {
1231             // invalid character
1232             m_string = originalString ? *originalString : url;
1233             invalidate();
1234             return;
1235         }
1236
1237         if (hostPortIsEmptyButCredentialsArePresent(hostStart, portEnd, url[userEnd])) {
1238             // in this circumstance, act as if there is an erroneous hostname containing an '@'
1239             userEnd = userStart;
1240             hostStart = userEnd;
1241         }
1242
1243         if (userStart == portEnd && !m_protocolIsInHTTPFamily && !isFile) {
1244             // No authority found, which means that this is not a net_path, but rather an abs_path whose first two
1245             // path segments are empty. For file, http and https only, an empty authority is allowed.
1246             userStart -= 2;
1247             userEnd = userStart;
1248             passwordStart = userEnd;
1249             passwordEnd = passwordStart;
1250             hostStart = passwordEnd;
1251             hostEnd = hostStart;
1252             portStart = hostEnd;
1253             portEnd = hostEnd;
1254         }
1255     } else {
1256         // the part after the scheme must be an opaque_part or an abs_path
1257         userEnd = userStart;
1258         passwordStart = passwordEnd = userEnd;
1259         hostStart = hostEnd = passwordEnd;
1260         portStart = portEnd = hostEnd;
1261     }
1262
1263     int pathStart = portEnd;
1264     int pathEnd = pathStart;
1265     while (url[pathEnd] && url[pathEnd] != '?' && url[pathEnd] != '#')
1266         pathEnd++;
1267
1268     int queryStart = pathEnd;
1269     int queryEnd = queryStart;
1270     if (url[queryStart] == '?') {
1271         while (url[queryEnd] && url[queryEnd] != '#')
1272             queryEnd++;
1273     }
1274
1275     int fragmentStart = queryEnd;
1276     int fragmentEnd = fragmentStart;
1277     if (url[fragmentStart] == '#') {
1278         fragmentStart++;
1279         fragmentEnd = fragmentStart;
1280         while (url[fragmentEnd])
1281             fragmentEnd++;
1282     }
1283
1284     // assemble it all, remembering the real ranges
1285
1286     Vector<char, 4096> buffer(fragmentEnd * 3 + 1);
1287
1288     char *p = buffer.data();
1289     const char *strPtr = url;
1290
1291     // copy in the scheme
1292     const char *schemeEndPtr = url + schemeEnd;
1293     while (strPtr < schemeEndPtr)
1294         *p++ = toASCIILower(*strPtr++);
1295     m_schemeEnd = p - buffer.data();
1296
1297     bool hostIsLocalHost = portEnd - userStart == 9
1298         && isLetterMatchIgnoringCase(url[userStart], 'l')
1299         && isLetterMatchIgnoringCase(url[userStart+1], 'o')
1300         && isLetterMatchIgnoringCase(url[userStart+2], 'c')
1301         && isLetterMatchIgnoringCase(url[userStart+3], 'a')
1302         && isLetterMatchIgnoringCase(url[userStart+4], 'l')
1303         && isLetterMatchIgnoringCase(url[userStart+5], 'h')
1304         && isLetterMatchIgnoringCase(url[userStart+6], 'o')
1305         && isLetterMatchIgnoringCase(url[userStart+7], 's')
1306         && isLetterMatchIgnoringCase(url[userStart+8], 't');
1307
1308     // File URLs need a host part unless it is just file:// or file://localhost
1309     bool degenFilePath = pathStart == pathEnd && (hostStart == hostEnd || hostIsLocalHost);
1310
1311     bool haveNonHostAuthorityPart = userStart != userEnd || passwordStart != passwordEnd || portStart != portEnd;
1312
1313     // add ":" after scheme
1314     *p++ = ':';
1315
1316     // if we have at least one authority part or a file URL - add "//" and authority
1317     if (isFile ? !degenFilePath : (haveNonHostAuthorityPart || hostStart != hostEnd)) {
1318         *p++ = '/';
1319         *p++ = '/';
1320
1321         m_userStart = p - buffer.data();
1322
1323         // copy in the user
1324         strPtr = url + userStart;
1325         const char* userEndPtr = url + userEnd;
1326         while (strPtr < userEndPtr)
1327             *p++ = *strPtr++;
1328         m_userEnd = p - buffer.data();
1329
1330         // copy in the password
1331         if (passwordEnd != passwordStart) {
1332             *p++ = ':';
1333             strPtr = url + passwordStart;
1334             const char* passwordEndPtr = url + passwordEnd;
1335             while (strPtr < passwordEndPtr)
1336                 *p++ = *strPtr++;
1337         }
1338         m_passwordEnd = p - buffer.data();
1339
1340         // If we had any user info, add "@"
1341         if (p - buffer.data() != m_userStart)
1342             *p++ = '@';
1343
1344         // copy in the host, except in the case of a file URL with authority="localhost"
1345         if (!(isFile && hostIsLocalHost && !haveNonHostAuthorityPart)) {
1346             strPtr = url + hostStart;
1347             const char* hostEndPtr = url + hostEnd;
1348             while (strPtr < hostEndPtr)
1349                 *p++ = *strPtr++;
1350         }
1351         m_hostEnd = p - buffer.data();
1352
1353         // Copy in the port if the URL has one (and it's not default).
1354         if (hostEnd != portStart) {
1355             const char* portStr = url + portStart;
1356             size_t portLength = portEnd - portStart;
1357             if (portLength && !isDefaultPortForScheme(portStr, portLength, buffer.data(), m_schemeEnd)) {
1358                 *p++ = ':';
1359                 const char* portEndPtr = url + portEnd;
1360                 while (portStr < portEndPtr)
1361                     *p++ = *portStr++;
1362             }
1363         }
1364         m_portEnd = p - buffer.data();
1365     } else
1366         m_userStart = m_userEnd = m_passwordEnd = m_hostEnd = m_portEnd = p - buffer.data();
1367
1368     // For canonicalization, ensure we have a '/' for no path.
1369     // Do this only for URL with protocol http or https.
1370     if (m_protocolIsInHTTPFamily && pathEnd == pathStart)
1371         *p++ = '/';
1372
1373     // add path, escaping bad characters
1374     if (!hierarchical)
1375         escapeAndAppendNonHierarchicalPart(p, url + pathStart, pathEnd - pathStart);
1376     else if (!hasSlashDotOrDotDot(url))
1377         appendEscapingBadChars(p, url + pathStart, pathEnd - pathStart);
1378     else {
1379         CharBuffer pathBuffer(pathEnd - pathStart + 1);
1380         size_t length = copyPathRemovingDots(pathBuffer.data(), url, pathStart, pathEnd);
1381         appendEscapingBadChars(p, pathBuffer.data(), length);
1382     }
1383
1384     m_pathEnd = p - buffer.data();
1385
1386     // Find the position after the last slash in the path, or
1387     // the position before the path if there are no slashes in it.
1388     int i;
1389     for (i = m_pathEnd; i > m_portEnd; --i) {
1390         if (buffer[i - 1] == '/')
1391             break;
1392     }
1393     m_pathAfterLastSlash = i;
1394
1395     // add query, escaping bad characters
1396     appendEscapingBadChars(p, url + queryStart, queryEnd - queryStart);
1397     m_queryEnd = p - buffer.data();
1398
1399     // add fragment, escaping bad characters
1400     if (fragmentEnd != queryEnd) {
1401         *p++ = '#';
1402         escapeAndAppendNonHierarchicalPart(p, url + fragmentStart, fragmentEnd - fragmentStart);
1403     }
1404     m_fragmentEnd = p - buffer.data();
1405
1406     ASSERT(p - buffer.data() <= static_cast<int>(buffer.size()));
1407     ASSERT(buffer.size() > 0);
1408
1409     // If we didn't end up actually changing the original string and
1410     // it was already in a String, reuse it to avoid extra allocation.
1411     if (originalString && *originalString == buffer)
1412         m_string = *originalString;
1413     else
1414         m_string = String(buffer.data(), m_fragmentEnd);
1415
1416     m_isValid = true;
1417 }
1418
1419 bool equalIgnoringFragmentIdentifier(const KURL& a, const KURL& b)
1420 {
1421     if (a.m_queryEnd != b.m_queryEnd)
1422         return false;
1423     unsigned queryLength = a.m_queryEnd;
1424     for (unsigned i = 0; i < queryLength; ++i)
1425         if (a.string()[i] != b.string()[i])
1426             return false;
1427     return true;
1428 }
1429
1430 bool protocolHostAndPortAreEqual(const KURL& a, const KURL& b)
1431 {
1432     if (a.m_schemeEnd != b.m_schemeEnd)
1433         return false;
1434
1435     int hostStartA = a.hostStart();
1436     int hostLengthA = a.hostEnd() - hostStartA;
1437     int hostStartB = b.hostStart();
1438     int hostLengthB = b.hostEnd() - b.hostStart();
1439     if (hostLengthA != hostLengthB)
1440         return false;
1441
1442     // Check the scheme
1443     for (int i = 0; i < a.m_schemeEnd; ++i)
1444         if (a.string()[i] != b.string()[i])
1445             return false;
1446
1447     // And the host
1448     for (int i = 0; i < hostLengthA; ++i)
1449         if (a.string()[hostStartA + i] != b.string()[hostStartB + i])
1450             return false;
1451
1452     if (a.port() != b.port())
1453         return false;
1454
1455     return true;
1456 }
1457
1458 String encodeWithURLEscapeSequences(const String& notEncodedString)
1459 {
1460     CString asUTF8 = notEncodedString.utf8();
1461
1462     CharBuffer buffer(asUTF8.length() * 3 + 1);
1463     char* p = buffer.data();
1464
1465     const char* str = asUTF8.data();
1466     const char* strEnd = str + asUTF8.length();
1467     while (str < strEnd) {
1468         unsigned char c = *str++;
1469         if (isBadChar(c))
1470             appendEscapedChar(p, c);
1471         else
1472             *p++ = c;
1473     }
1474
1475     ASSERT(p - buffer.data() <= static_cast<int>(buffer.size()));
1476
1477     return String(buffer.data(), p - buffer.data());
1478 }
1479
1480 // Appends the punycoded hostname identified by the given string and length to
1481 // the output buffer. The result will not be null terminated.
1482 static void appendEncodedHostname(UCharBuffer& buffer, const UChar* str, unsigned strLen)
1483 {
1484     // Needs to be big enough to hold an IDN-encoded name.
1485     // For host names bigger than this, we won't do IDN encoding, which is almost certainly OK.
1486     const unsigned hostnameBufferLength = 2048;
1487
1488     if (strLen > hostnameBufferLength || charactersAreAllASCII(str, strLen)) {
1489         buffer.append(str, strLen);
1490         return;
1491     }
1492
1493 #if USE(ICU_UNICODE)
1494     UChar hostnameBuffer[hostnameBufferLength];
1495     UErrorCode error = U_ZERO_ERROR;
1496     int32_t numCharactersConverted = uidna_IDNToASCII(str, strLen, hostnameBuffer,
1497         hostnameBufferLength, UIDNA_ALLOW_UNASSIGNED, 0, &error);
1498     if (error == U_ZERO_ERROR)
1499         buffer.append(hostnameBuffer, numCharactersConverted);
1500 #elif USE(QT4_UNICODE)
1501     QByteArray result = QUrl::toAce(String(str, strLen));
1502     buffer.append(result.constData(), result.length());
1503 #elif USE(GLIB_UNICODE)
1504     GOwnPtr<gchar> utf8Hostname;
1505     GOwnPtr<GError> utf8Err;
1506     utf8Hostname.set(g_utf16_to_utf8(str, strLen, 0, 0, &utf8Err.outPtr()));
1507     if (utf8Err)
1508         return;
1509
1510     GOwnPtr<gchar> encodedHostname;
1511     encodedHostname.set(g_hostname_to_ascii(utf8Hostname.get()));
1512     if (!encodedHostname) 
1513         return;
1514
1515     buffer.append(encodedHostname.get(), strlen(encodedHostname.get()));
1516 #endif
1517 }
1518
1519 static void findHostnamesInMailToURL(const UChar* str, int strLen, Vector<pair<int, int> >& nameRanges)
1520 {
1521     // In a mailto: URL, host names come after a '@' character and end with a '>' or ',' or '?' or end of string character.
1522     // Skip quoted strings so that characters in them don't confuse us.
1523     // When we find a '?' character, we are past the part of the URL that contains host names.
1524
1525     nameRanges.clear();
1526
1527     int p = 0;
1528     while (1) {
1529         // Find start of host name or of quoted string.
1530         int hostnameOrStringStart = findFirstOf(str, strLen, p, "\"@?");
1531         if (hostnameOrStringStart == -1)
1532             return;
1533         UChar c = str[hostnameOrStringStart];
1534         p = hostnameOrStringStart + 1;
1535
1536         if (c == '?')
1537             return;
1538
1539         if (c == '@') {
1540             // Find end of host name.
1541             int hostnameStart = p;
1542             int hostnameEnd = findFirstOf(str, strLen, p, ">,?");
1543             bool done;
1544             if (hostnameEnd == -1) {
1545                 hostnameEnd = strLen;
1546                 done = true;
1547             } else {
1548                 p = hostnameEnd;
1549                 done = false;
1550             }
1551
1552             nameRanges.append(make_pair(hostnameStart, hostnameEnd));
1553
1554             if (done)
1555                 return;
1556         } else {
1557             // Skip quoted string.
1558             ASSERT(c == '"');
1559             while (1) {
1560                 int escapedCharacterOrStringEnd = findFirstOf(str, strLen, p, "\"\\");
1561                 if (escapedCharacterOrStringEnd == -1)
1562                     return;
1563
1564                 c = str[escapedCharacterOrStringEnd];
1565                 p = escapedCharacterOrStringEnd + 1;
1566
1567                 // If we are the end of the string, then break from the string loop back to the host name loop.
1568                 if (c == '"')
1569                     break;
1570
1571                 // Skip escaped character.
1572                 ASSERT(c == '\\');
1573                 if (p == strLen)
1574                     return;
1575
1576                 ++p;
1577             }
1578         }
1579     }
1580 }
1581
1582 static bool findHostnameInHierarchicalURL(const UChar* str, int strLen, int& startOffset, int& endOffset)
1583 {
1584     // Find the host name in a hierarchical URL.
1585     // It comes after a "://" sequence, with scheme characters preceding, and
1586     // this should be the first colon in the string.
1587     // It ends with the end of the string or a ":" or a path segment ending character.
1588     // If there is a "@" character, the host part is just the part after the "@".
1589     int separator = findFirstOf(str, strLen, 0, ":");
1590     if (separator == -1 || separator + 2 >= strLen ||
1591         str[separator + 1] != '/' || str[separator + 2] != '/')
1592         return false;
1593
1594     // Check that all characters before the :// are valid scheme characters.
1595     if (!isSchemeFirstChar(str[0]))
1596         return false;
1597     for (int i = 1; i < separator; ++i) {
1598         if (!isSchemeChar(str[i]))
1599             return false;
1600     }
1601
1602     // Start after the separator.
1603     int authorityStart = separator + 3;
1604
1605     // Find terminating character.
1606     int hostnameEnd = strLen;
1607     for (int i = authorityStart; i < strLen; ++i) {
1608         UChar c = str[i];
1609         if (c == ':' || (isPathSegmentEndChar(c) && c != 0)) {
1610             hostnameEnd = i;
1611             break;
1612         }
1613     }
1614
1615     // Find "@" for the start of the host name.
1616     int userInfoTerminator = findFirstOf(str, strLen, authorityStart, "@");
1617     int hostnameStart;
1618     if (userInfoTerminator == -1 || userInfoTerminator > hostnameEnd)
1619         hostnameStart = authorityStart;
1620     else
1621         hostnameStart = userInfoTerminator + 1;
1622
1623     startOffset = hostnameStart;
1624     endOffset = hostnameEnd;
1625     return true;
1626 }
1627
1628 // Converts all hostnames found in the given input to punycode, preserving the
1629 // rest of the URL unchanged. The output will NOT be null-terminated.
1630 static void encodeHostnames(const String& str, UCharBuffer& output)
1631 {
1632     output.clear();
1633
1634     if (protocolIs(str, "mailto")) {
1635         Vector<pair<int, int> > hostnameRanges;
1636         findHostnamesInMailToURL(str.characters(), str.length(), hostnameRanges);
1637         int n = hostnameRanges.size();
1638         int p = 0;
1639         for (int i = 0; i < n; ++i) {
1640             const pair<int, int>& r = hostnameRanges[i];
1641             output.append(&str.characters()[p], r.first - p);
1642             appendEncodedHostname(output, &str.characters()[r.first], r.second - r.first);
1643             p = r.second;
1644         }
1645         // This will copy either everything after the last hostname, or the
1646         // whole thing if there is no hostname.
1647         output.append(&str.characters()[p], str.length() - p);
1648     } else {
1649         int hostStart, hostEnd;
1650         if (findHostnameInHierarchicalURL(str.characters(), str.length(), hostStart, hostEnd)) {
1651             output.append(str.characters(), hostStart); // Before hostname.
1652             appendEncodedHostname(output, &str.characters()[hostStart], hostEnd - hostStart);
1653             output.append(&str.characters()[hostEnd], str.length() - hostEnd); // After hostname.
1654         } else {
1655             // No hostname to encode, return the input.
1656             output.append(str.characters(), str.length());
1657         }
1658     }
1659 }
1660
1661 static void encodeRelativeString(const String& rel, const TextEncoding& encoding, CharBuffer& output)
1662 {
1663     UCharBuffer s;
1664     encodeHostnames(rel, s);
1665
1666     TextEncoding pathEncoding(UTF8Encoding()); // Path is always encoded as UTF-8; other parts may depend on the scheme.
1667
1668     int pathEnd = -1;
1669     if (encoding != pathEncoding && encoding.isValid() && !protocolIs(rel, "mailto") && !protocolIs(rel, "data") && !protocolIsJavaScript(rel)) {
1670         // Find the first instance of either # or ?, keep pathEnd at -1 otherwise.
1671         pathEnd = findFirstOf(s.data(), s.size(), 0, "#?");
1672     }
1673
1674     if (pathEnd == -1) {
1675         CString decoded = pathEncoding.encode(s.data(), s.size(), URLEncodedEntitiesForUnencodables);
1676         output.resize(decoded.length());
1677         memcpy(output.data(), decoded.data(), decoded.length());
1678     } else {
1679         CString pathDecoded = pathEncoding.encode(s.data(), pathEnd, URLEncodedEntitiesForUnencodables);
1680         // Unencodable characters in URLs are represented by converting
1681         // them to XML entities and escaping non-alphanumeric characters.
1682         CString otherDecoded = encoding.encode(s.data() + pathEnd, s.size() - pathEnd, URLEncodedEntitiesForUnencodables);
1683
1684         output.resize(pathDecoded.length() + otherDecoded.length());
1685         memcpy(output.data(), pathDecoded.data(), pathDecoded.length());
1686         memcpy(output.data() + pathDecoded.length(), otherDecoded.data(), otherDecoded.length());
1687     }
1688     output.append('\0'); // null-terminate the output.
1689 }
1690
1691 static String substituteBackslashes(const String& string)
1692 {
1693     size_t questionPos = string.find('?');
1694     size_t hashPos = string.find('#');
1695     unsigned pathEnd;
1696
1697     if (hashPos != notFound && (questionPos == notFound || questionPos > hashPos))
1698         pathEnd = hashPos;
1699     else if (questionPos != notFound)
1700         pathEnd = questionPos;
1701     else
1702         pathEnd = string.length();
1703
1704     return string.left(pathEnd).replace('\\','/') + string.substring(pathEnd);
1705 }
1706
1707 bool KURL::isHierarchical() const
1708 {
1709     if (!m_isValid)
1710         return false;
1711     ASSERT(m_string[m_schemeEnd] == ':');
1712     return m_string[m_schemeEnd + 1] == '/';
1713 }
1714
1715 void KURL::copyToBuffer(CharBuffer& buffer) const
1716 {
1717     // FIXME: This throws away the high bytes of all the characters in the string!
1718     // That's fine for a valid URL, which is all ASCII, but not for invalid URLs.
1719     buffer.resize(m_string.length());
1720     copyASCII(m_string, buffer.data());
1721 }
1722
1723 bool protocolIs(const String& url, const char* protocol)
1724 {
1725     // Do the comparison without making a new string object.
1726     assertProtocolIsGood(protocol);
1727     for (int i = 0; ; ++i) {
1728         if (!protocol[i])
1729             return url[i] == ':';
1730         if (!isLetterMatchIgnoringCase(url[i], protocol[i]))
1731             return false;
1732     }
1733 }
1734
1735 bool isValidProtocol(const String& protocol)
1736 {
1737     // RFC3986: ALPHA *( ALPHA / DIGIT / "+" / "-" / "." )
1738     if (protocol.isEmpty())
1739         return false;
1740     if (!isSchemeFirstChar(protocol[0]))
1741         return false;
1742     unsigned protocolLength = protocol.length();
1743     for (unsigned i = 1; i < protocolLength; i++) {
1744         if (!isSchemeChar(protocol[i]))
1745             return false;
1746     }
1747     return true;
1748 }
1749
1750 #ifndef NDEBUG
1751 void KURL::print() const
1752 {
1753     printf("%s\n", m_string.utf8().data());
1754 }
1755 #endif
1756
1757 #endif // !USE(GOOGLEURL)
1758
1759 String KURL::strippedForUseAsReferrer() const
1760 {
1761     KURL referrer(*this);
1762     referrer.setUser(String());
1763     referrer.setPass(String());
1764     referrer.removeFragmentIdentifier();
1765     return referrer.string();
1766 }
1767
1768 bool KURL::isLocalFile() const
1769 {
1770     // Including feed here might be a bad idea since drag and drop uses this check
1771     // and including feed would allow feeds to potentially let someone's blog
1772     // read the contents of the clipboard on a drag, even without a drop.
1773     // Likewise with using the FrameLoader::shouldTreatURLAsLocal() function.
1774     return protocolIs("file");
1775 }
1776
1777 bool protocolIsJavaScript(const String& url)
1778 {
1779     return protocolIs(url, "javascript");
1780 }
1781
1782 const KURL& blankURL()
1783 {
1784     DEFINE_STATIC_LOCAL(KURL, staticBlankURL, (ParsedURLString, "about:blank"));
1785     return staticBlankURL;
1786 }
1787
1788 bool isDefaultPortForProtocol(unsigned short port, const String& protocol)
1789 {
1790     if (protocol.isEmpty())
1791         return false;
1792
1793     typedef HashMap<String, unsigned, CaseFoldingHash> DefaultPortsMap;
1794     DEFINE_STATIC_LOCAL(DefaultPortsMap, defaultPorts, ());
1795     if (defaultPorts.isEmpty()) {
1796         defaultPorts.set("http", 80);
1797         defaultPorts.set("https", 443);
1798         defaultPorts.set("ftp", 21);
1799         defaultPorts.set("ftps", 990);
1800     }
1801     return defaultPorts.get(protocol) == port;
1802 }
1803
1804 bool portAllowed(const KURL& url)
1805 {
1806     unsigned short port = url.port();
1807
1808     // Since most URLs don't have a port, return early for the "no port" case.
1809     if (!port)
1810         return true;
1811
1812     // This blocked port list matches the port blocking that Mozilla implements.
1813     // See http://www.mozilla.org/projects/netlib/PortBanning.html for more information.
1814     static const unsigned short blockedPortList[] = {
1815         1,    // tcpmux
1816         7,    // echo
1817         9,    // discard
1818         11,   // systat
1819         13,   // daytime
1820         15,   // netstat
1821         17,   // qotd
1822         19,   // chargen
1823         20,   // FTP-data
1824         21,   // FTP-control
1825         22,   // SSH
1826         23,   // telnet
1827         25,   // SMTP
1828         37,   // time
1829         42,   // name
1830         43,   // nicname
1831         53,   // domain
1832         77,   // priv-rjs
1833         79,   // finger
1834         87,   // ttylink
1835         95,   // supdup
1836         101,  // hostriame
1837         102,  // iso-tsap
1838         103,  // gppitnp
1839         104,  // acr-nema
1840         109,  // POP2
1841         110,  // POP3
1842         111,  // sunrpc
1843         113,  // auth
1844         115,  // SFTP
1845         117,  // uucp-path
1846         119,  // nntp
1847         123,  // NTP
1848         135,  // loc-srv / epmap
1849         139,  // netbios
1850         143,  // IMAP2
1851         179,  // BGP
1852         389,  // LDAP
1853         465,  // SMTP+SSL
1854         512,  // print / exec
1855         513,  // login
1856         514,  // shell
1857         515,  // printer
1858         526,  // tempo
1859         530,  // courier
1860         531,  // Chat
1861         532,  // netnews
1862         540,  // UUCP
1863         556,  // remotefs
1864         563,  // NNTP+SSL
1865         587,  // ESMTP
1866         601,  // syslog-conn
1867         636,  // LDAP+SSL
1868         993,  // IMAP+SSL
1869         995,  // POP3+SSL
1870         2049, // NFS
1871         3659, // apple-sasl / PasswordServer [Apple addition]
1872         4045, // lockd
1873         6000, // X11
1874         6665, // Alternate IRC [Apple addition]
1875         6666, // Alternate IRC [Apple addition]
1876         6667, // Standard IRC [Apple addition]
1877         6668, // Alternate IRC [Apple addition]
1878         6669, // Alternate IRC [Apple addition]
1879         invalidPortNumber, // Used to block all invalid port numbers
1880     };
1881     const unsigned short* const blockedPortListEnd = blockedPortList + WTF_ARRAY_LENGTH(blockedPortList);
1882
1883 #ifndef NDEBUG
1884     // The port list must be sorted for binary_search to work.
1885     static bool checkedPortList = false;
1886     if (!checkedPortList) {
1887         for (const unsigned short* p = blockedPortList; p != blockedPortListEnd - 1; ++p)
1888             ASSERT(*p < *(p + 1));
1889         checkedPortList = true;
1890     }
1891 #endif
1892
1893     // If the port is not in the blocked port list, allow it.
1894     if (!binary_search(blockedPortList, blockedPortListEnd, port))
1895         return true;
1896
1897     // Allow ports 21 and 22 for FTP URLs, as Mozilla does.
1898     if ((port == 21 || port == 22) && url.protocolIs("ftp"))
1899         return true;
1900
1901     // Allow any port number in a file URL, since the port number is ignored.
1902     if (url.protocolIs("file"))
1903         return true;
1904
1905     return false;
1906 }
1907
1908 String mimeTypeFromDataURL(const String& url)
1909 {
1910     ASSERT(protocolIs(url, "data"));
1911     size_t index = url.find(';');
1912     if (index == notFound)
1913         index = url.find(',');
1914     if (index != notFound) {
1915         if (index > 5)
1916             return url.substring(5, index - 5);
1917         return "text/plain"; // Data URLs with no MIME type are considered text/plain.
1918     }
1919     return "";
1920 }
1921
1922 bool protocolIsInHTTPFamily(const String& url)
1923 {
1924     unsigned length = url.length();
1925     const UChar* characters = url.characters();
1926     return length > 4
1927         && isLetterMatchIgnoringCase(characters[0], 'h')
1928         && isLetterMatchIgnoringCase(characters[1], 't')
1929         && isLetterMatchIgnoringCase(characters[2], 't')
1930         && isLetterMatchIgnoringCase(characters[3], 'p')
1931         && (characters[4] == ':'
1932             || (isLetterMatchIgnoringCase(characters[4], 's') && length > 5 && characters[5] == ':'));
1933 }
1934
1935 }