Datasets:

Denis641

/

AdvTestNegatives

like 0

[ "def", "url_to_resource", "(", "url", ",", "request", "=", "None", ")", ":", "if", "request", "is", "None", ":", "request", "=", "get_current_request", "(", ")", "# cnv = request.registry.getAdapter(request, IResourceUrlConverter)", "reg", "=", "get_current_registry", "(", ")", "cnv", "=", "reg", ".", "getAdapter", "(", "request", ",", "IResourceUrlConverter", ")", "return", "cnv", ".", "url_to_resource", "(", "url", ")" ]

[ "def", "find", "(", "self", ",", "path", ")", ":", "if", "isinstance", "(", "path", ",", "Device", ")", ":", "return", "path", "for", "device", "in", "self", ":", "if", "device", ".", "is_file", "(", "path", ")", ":", "self", ".", "_log", ".", "debug", "(", "_", "(", "'found device owning \"{0}\": \"{1}\"'", ",", "path", ",", "device", ")", ")", "return", "device", "raise", "FileNotFoundError", "(", "_", "(", "'no device found owning \"{0}\"'", ",", "path", ")", ")" ]

[ "def", "concatenate_not_none", "(", "l", ",", "axis", "=", "0", ")", ":", "# Get the indexes of the arrays in the list", "mask", "=", "[", "]", "for", "i", "in", "range", "(", "len", "(", "l", ")", ")", ":", "if", "l", "[", "i", "]", "is", "not", "None", ":", "mask", ".", "append", "(", "i", ")", "# Concatenate them", "l_stacked", "=", "np", ".", "concatenate", "(", "[", "l", "[", "i", "]", "for", "i", "in", "mask", "]", ",", "axis", "=", "axis", ")", "return", "l_stacked" ]

[ "def", "get_default_config", "(", "self", ")", ":", "config", "=", "super", "(", "XFSCollector", ",", "self", ")", ".", "get_default_config", "(", ")", "config", ".", "update", "(", "{", "'path'", ":", "'xfs'", "}", ")", "return", "config" ]

[ "def", "decode_pet", "(", "self", ",", "specifictrap", ",", "petdata", ")", ":", "self", ".", "oem_init", "(", ")", "return", "sel", ".", "EventHandler", "(", "self", ".", "init_sdr", "(", ")", ",", "self", ")", ".", "decode_pet", "(", "specifictrap", ",", "petdata", ")" ]

[ "def", "restore_droplet", "(", "self", ",", "droplet_id", ",", "image_id", ")", ":", "if", "not", "droplet_id", ":", "raise", "DOPException", "(", "'droplet_id is required to restore a droplet!'", ")", "if", "not", "image_id", ":", "raise", "DOPException", "(", "'image_id is required to rebuild a droplet!'", ")", "params", "=", "{", "'image_id'", ":", "image_id", "}", "json", "=", "self", ".", "request", "(", "'/droplets/%s/restore'", "%", "droplet_id", ",", "method", "=", "'GET'", ",", "params", "=", "params", ")", "status", "=", "json", ".", "get", "(", "'status'", ")", "if", "status", "==", "'OK'", ":", "return", "json", ".", "get", "(", "'event_id'", ")", "else", ":", "message", "=", "json", ".", "get", "(", "'message'", ")", "raise", "DOPException", "(", "'[%s]: %s'", "%", "(", "status", ",", "message", ")", ")" ]

[ "def", "poll", "(", ")", ":", "event_ptr", "=", "ffi", ".", "new", "(", "'SDL_Event *'", ")", "while", "lib", ".", "SDL_PollEvent", "(", "event_ptr", ")", ":", "yield", "Event", ".", "_from_ptr", "(", "event_ptr", ")", "event_ptr", "=", "ffi", ".", "new", "(", "'SDL_Event *'", ")" ]

[ "def", "download_storyitem", "(", "self", ",", "item", ":", "StoryItem", ",", "target", ":", "str", ")", "->", "bool", ":", "date_local", "=", "item", ".", "date_local", "dirname", "=", "_PostPathFormatter", "(", "item", ")", ".", "format", "(", "self", ".", "dirname_pattern", ",", "target", "=", "target", ")", "filename", "=", "dirname", "+", "'/'", "+", "self", ".", "format_filename", "(", "item", ",", "target", "=", "target", ")", "os", ".", "makedirs", "(", "os", ".", "path", ".", "dirname", "(", "filename", ")", ",", "exist_ok", "=", "True", ")", "downloaded", "=", "False", "if", "not", "item", ".", "is_video", "or", "self", ".", "download_video_thumbnails", "is", "True", ":", "url", "=", "item", ".", "url", "downloaded", "=", "self", ".", "download_pic", "(", "filename", "=", "filename", ",", "url", "=", "url", ",", "mtime", "=", "date_local", ")", "if", "item", ".", "is_video", "and", "self", ".", "download_videos", "is", "True", ":", "downloaded", "|=", "self", ".", "download_pic", "(", "filename", "=", "filename", ",", "url", "=", "item", ".", "video_url", ",", "mtime", "=", "date_local", ")", "# Save caption if desired", "metadata_string", "=", "_ArbitraryItemFormatter", "(", "item", ")", ".", "format", "(", "self", ".", "storyitem_metadata_txt_pattern", ")", ".", "strip", "(", ")", "if", "metadata_string", ":", "self", ".", "save_caption", "(", "filename", "=", "filename", ",", "mtime", "=", "item", ".", "date_local", ",", "caption", "=", "metadata_string", ")", "# Save metadata as JSON if desired.", "if", "self", ".", "save_metadata", "is", "not", "False", ":", "self", ".", "save_metadata_json", "(", "filename", ",", "item", ")", "self", ".", "context", ".", "log", "(", ")", "return", "downloaded" ]

[ "def", "convert_timestamps", "(", "files", ")", ":", "sentences", "=", "[", "]", "for", "f", "in", "files", ":", "if", "not", "f", ".", "endswith", "(", "'.transcription.txt'", ")", ":", "f", "=", "f", "+", "'.transcription.txt'", "if", "os", ".", "path", ".", "exists", "(", "f", ")", "is", "False", ":", "continue", "with", "open", "(", "f", ",", "'r'", ")", "as", "infile", ":", "lines", "=", "infile", ".", "readlines", "(", ")", "lines", "=", "[", "re", ".", "sub", "(", "r'\\(.*?\\)'", ",", "''", ",", "l", ")", ".", "strip", "(", ")", ".", "split", "(", "' '", ")", "for", "l", "in", "lines", "]", "lines", "=", "[", "l", "for", "l", "in", "lines", "if", "len", "(", "l", ")", "==", "4", "]", "seg_start", "=", "-", "1", "seg_end", "=", "-", "1", "for", "index", ",", "line", "in", "enumerate", "(", "lines", ")", ":", "word", ",", "start", ",", "end", ",", "conf", "=", "line", "if", "word", "==", "'<s>'", "or", "word", "==", "'<sil>'", "or", "word", "==", "'</s>'", ":", "if", "seg_start", "==", "-", "1", ":", "seg_start", "=", "index", "seg_end", "=", "-", "1", "else", ":", "seg_end", "=", "index", "if", "seg_start", ">", "-", "1", "and", "seg_end", ">", "-", "1", ":", "words", "=", "lines", "[", "seg_start", "+", "1", ":", "seg_end", "]", "start", "=", "float", "(", "lines", "[", "seg_start", "]", "[", "1", "]", ")", "end", "=", "float", "(", "lines", "[", "seg_end", "]", "[", "1", "]", ")", "if", "words", ":", "sentences", ".", "append", "(", "{", "'start'", ":", "start", ",", "'end'", ":", "end", ",", "'words'", ":", "words", ",", "'file'", ":", "f", "}", ")", "if", "word", "==", "'</s>'", ":", "seg_start", "=", "-", "1", "else", ":", "seg_start", "=", "seg_end", "seg_end", "=", "-", "1", "return", "sentences" ]

[ "def", "drop", "(", "self", ",", "labels", ",", "errors", "=", "'raise'", ")", ":", "arr_dtype", "=", "'object'", "if", "self", ".", "dtype", "==", "'object'", "else", "None", "labels", "=", "com", ".", "index_labels_to_array", "(", "labels", ",", "dtype", "=", "arr_dtype", ")", "indexer", "=", "self", ".", "get_indexer", "(", "labels", ")", "mask", "=", "indexer", "==", "-", "1", "if", "mask", ".", "any", "(", ")", ":", "if", "errors", "!=", "'ignore'", ":", "raise", "KeyError", "(", "'{} not found in axis'", ".", "format", "(", "labels", "[", "mask", "]", ")", ")", "indexer", "=", "indexer", "[", "~", "mask", "]", "return", "self", ".", "delete", "(", "indexer", ")" ]

[ "def", "sample", "(", "self", ",", "event", "=", "None", ",", "record_keepalive", "=", "False", ")", ":", "url", "=", "'https://stream.twitter.com/1.1/statuses/sample.json'", "params", "=", "{", "\"stall_warning\"", ":", "True", "}", "headers", "=", "{", "'accept-encoding'", ":", "'deflate, gzip'", "}", "errors", "=", "0", "while", "True", ":", "try", ":", "log", ".", "info", "(", "\"connecting to sample stream\"", ")", "resp", "=", "self", ".", "post", "(", "url", ",", "params", ",", "headers", "=", "headers", ",", "stream", "=", "True", ")", "errors", "=", "0", "for", "line", "in", "resp", ".", "iter_lines", "(", "chunk_size", "=", "512", ")", ":", "if", "event", "and", "event", ".", "is_set", "(", ")", ":", "log", ".", "info", "(", "\"stopping sample\"", ")", "# Explicitly close response", "resp", ".", "close", "(", ")", "return", "if", "line", "==", "\"\"", ":", "log", ".", "info", "(", "\"keep-alive\"", ")", "if", "record_keepalive", ":", "yield", "\"keep-alive\"", "continue", "try", ":", "yield", "json", ".", "loads", "(", "line", ".", "decode", "(", ")", ")", "except", "Exception", "as", "e", ":", "log", ".", "error", "(", "\"json parse error: %s - %s\"", ",", "e", ",", "line", ")", "except", "requests", ".", "exceptions", ".", "HTTPError", "as", "e", ":", "errors", "+=", "1", "log", ".", "error", "(", "\"caught http error %s on %s try\"", ",", "e", ",", "errors", ")", "if", "self", ".", "http_errors", "and", "errors", "==", "self", ".", "http_errors", ":", "log", ".", "warning", "(", "\"too many errors\"", ")", "raise", "e", "if", "e", ".", "response", ".", "status_code", "==", "420", ":", "if", "interruptible_sleep", "(", "errors", "*", "60", ",", "event", ")", ":", "log", ".", "info", "(", "\"stopping filter\"", ")", "return", "else", ":", "if", "interruptible_sleep", "(", "errors", "*", "5", ",", "event", ")", ":", "log", ".", "info", "(", "\"stopping filter\"", ")", "return", "except", "Exception", "as", "e", ":", "errors", "+=", "1", "log", ".", "error", "(", "\"caught exception %s on %s try\"", ",", "e", ",", "errors", ")", "if", "self", ".", "http_errors", "and", "errors", "==", "self", ".", "http_errors", ":", "log", ".", "warning", "(", "\"too many errors\"", ")", "raise", "e", "if", "interruptible_sleep", "(", "errors", ",", "event", ")", ":", "log", ".", "info", "(", "\"stopping filter\"", ")", "return" ]

[ "def", "parse_message", "(", "message", ",", "nodata", "=", "False", ")", ":", "header", "=", "read_machine_header", "(", "message", ")", "h_len", "=", "__get_machine_header_length", "(", "header", ")", "meta_raw", "=", "message", "[", "h_len", ":", "h_len", "+", "header", "[", "'meta_len'", "]", "]", "meta", "=", "__parse_meta", "(", "meta_raw", ",", "header", ")", "data_start", "=", "h_len", "+", "header", "[", "'meta_len'", "]", "data", "=", "b''", "if", "not", "nodata", ":", "data", "=", "__decompress", "(", "meta", ",", "message", "[", "data_start", ":", "data_start", "+", "header", "[", "'data_len'", "]", "]", ")", "return", "header", ",", "meta", ",", "data" ]

[ "def", "_clean_message", "(", "message", ")", ":", "message", "=", "message", ".", "replace", "(", "'zonecfg: '", ",", "''", ")", "message", "=", "message", ".", "splitlines", "(", ")", "for", "line", "in", "message", ":", "if", "line", ".", "startswith", "(", "'On line'", ")", ":", "message", ".", "remove", "(", "line", ")", "return", "\"\\n\"", ".", "join", "(", "message", ")" ]

[ "def", "write_result_stream", "(", "result_stream", ",", "filename_prefix", "=", "None", ",", "results_per_file", "=", "None", ",", "*", "*", "kwargs", ")", ":", "if", "isinstance", "(", "result_stream", ",", "types", ".", "GeneratorType", ")", ":", "stream", "=", "result_stream", "else", ":", "stream", "=", "result_stream", ".", "stream", "(", ")", "file_time_formatter", "=", "\"%Y-%m-%dT%H_%M_%S\"", "if", "filename_prefix", "is", "None", ":", "filename_prefix", "=", "\"twitter_search_results\"", "if", "results_per_file", ":", "logger", ".", "info", "(", "\"chunking result stream to files with {} tweets per file\"", ".", "format", "(", "results_per_file", ")", ")", "chunked_stream", "=", "partition", "(", "stream", ",", "results_per_file", ",", "pad_none", "=", "True", ")", "for", "chunk", "in", "chunked_stream", ":", "chunk", "=", "filter", "(", "lambda", "x", ":", "x", "is", "not", "None", ",", "chunk", ")", "curr_datetime", "=", "(", "datetime", ".", "datetime", ".", "utcnow", "(", ")", ".", "strftime", "(", "file_time_formatter", ")", ")", "_filename", "=", "\"{}_{}.json\"", ".", "format", "(", "filename_prefix", ",", "curr_datetime", ")", "yield", "from", "write_ndjson", "(", "_filename", ",", "chunk", ")", "else", ":", "curr_datetime", "=", "(", "datetime", ".", "datetime", ".", "utcnow", "(", ")", ".", "strftime", "(", "file_time_formatter", ")", ")", "_filename", "=", "\"{}.json\"", ".", "format", "(", "filename_prefix", ")", "yield", "from", "write_ndjson", "(", "_filename", ",", "stream", ")" ]

[ "def", "download_next_song", "(", "self", ",", "song", ")", ":", "dl_ydl_opts", "=", "dict", "(", "ydl_opts", ")", "dl_ydl_opts", "[", "\"progress_hooks\"", "]", "=", "[", "self", ".", "ytdl_progress_hook", "]", "dl_ydl_opts", "[", "\"outtmpl\"", "]", "=", "self", ".", "output_format", "# Move the songs from the next cache to the current cache", "self", ".", "move_next_cache", "(", ")", "self", ".", "state", "=", "'ready'", "self", ".", "play_empty", "(", ")", "# Download the file and create the stream", "with", "youtube_dl", ".", "YoutubeDL", "(", "dl_ydl_opts", ")", "as", "ydl", ":", "try", ":", "ydl", ".", "download", "(", "[", "song", "]", ")", "except", "DownloadStreamException", ":", "# This is a livestream, use the appropriate player", "future", "=", "asyncio", ".", "run_coroutine_threadsafe", "(", "self", ".", "create_stream_player", "(", "song", ",", "dl_ydl_opts", ")", ",", "client", ".", "loop", ")", "try", ":", "future", ".", "result", "(", ")", "except", "Exception", "as", "e", ":", "logger", ".", "exception", "(", "e", ")", "self", ".", "vafter_ts", "(", ")", "return", "except", "PermissionError", ":", "# File is still in use, it'll get cleared next time", "pass", "except", "youtube_dl", ".", "utils", ".", "DownloadError", "as", "e", ":", "self", ".", "logger", ".", "exception", "(", "e", ")", "self", ".", "statuslog", ".", "error", "(", "e", ")", "self", ".", "vafter_ts", "(", ")", "return", "except", "Exception", "as", "e", ":", "self", ".", "logger", ".", "exception", "(", "e", ")", "self", ".", "vafter_ts", "(", ")", "return" ]

[ "def", "remove_stale_javascripts", "(", "portal", ")", ":", "logger", ".", "info", "(", "\"Removing stale javascripts ...\"", ")", "for", "js", "in", "JAVASCRIPTS_TO_REMOVE", ":", "logger", ".", "info", "(", "\"Unregistering JS %s\"", "%", "js", ")", "portal", ".", "portal_javascripts", ".", "unregisterResource", "(", "js", ")" ]

[ "def", "catalogFactory", "(", "name", ",", "*", "*", "kwargs", ")", ":", "fn", "=", "lambda", "member", ":", "inspect", ".", "isclass", "(", "member", ")", "and", "member", ".", "__module__", "==", "__name__", "catalogs", "=", "odict", "(", "inspect", ".", "getmembers", "(", "sys", ".", "modules", "[", "__name__", "]", ",", "fn", ")", ")", "if", "name", "not", "in", "list", "(", "catalogs", ".", "keys", "(", ")", ")", ":", "msg", "=", "\"%s not found in catalogs:\\n %s\"", "%", "(", "name", ",", "list", "(", "kernels", ".", "keys", "(", ")", ")", ")", "logger", ".", "error", "(", "msg", ")", "msg", "=", "\"Unrecognized catalog: %s\"", "%", "name", "raise", "Exception", "(", "msg", ")", "return", "catalogs", "[", "name", "]", "(", "*", "*", "kwargs", ")" ]

[ "def", "_check_missing_manifests", "(", "self", ",", "segids", ")", ":", "manifest_paths", "=", "[", "self", ".", "_manifest_path", "(", "segid", ")", "for", "segid", "in", "segids", "]", "with", "Storage", "(", "self", ".", "vol", ".", "layer_cloudpath", ",", "progress", "=", "self", ".", "vol", ".", "progress", ")", "as", "stor", ":", "exists", "=", "stor", ".", "files_exist", "(", "manifest_paths", ")", "dne", "=", "[", "]", "for", "path", ",", "there", "in", "exists", ".", "items", "(", ")", ":", "if", "not", "there", ":", "(", "segid", ",", ")", "=", "re", ".", "search", "(", "r'(\\d+):0$'", ",", "path", ")", ".", "groups", "(", ")", "dne", ".", "append", "(", "segid", ")", "return", "dne" ]

[ "def", "Process", "(", "self", ",", "parser_mediator", ",", "registry_key", ",", "*", "*", "kwargs", ")", ":", "if", "registry_key", "is", "None", ":", "raise", "ValueError", "(", "'Windows Registry key is not set.'", ")", "# This will raise if unhandled keyword arguments are passed.", "super", "(", "WindowsRegistryPlugin", ",", "self", ")", ".", "Process", "(", "parser_mediator", ",", "*", "*", "kwargs", ")", "self", ".", "ExtractEvents", "(", "parser_mediator", ",", "registry_key", ",", "*", "*", "kwargs", ")" ]

[ "def", "getVATAmount", "(", "self", ")", ":", "price", ",", "vat", "=", "self", ".", "getPrice", "(", ")", ",", "self", ".", "getVAT", "(", ")", "return", "float", "(", "price", ")", "*", "(", "float", "(", "vat", ")", "/", "100", ")" ]

[ "def", "_init_itemid2name", "(", "self", ")", ":", "if", "not", "hasattr", "(", "self", ".", "args", ",", "'id2sym'", ")", ":", "return", "None", "fin_id2sym", "=", "self", ".", "args", ".", "id2sym", "if", "fin_id2sym", "is", "not", "None", "and", "os", ".", "path", ".", "exists", "(", "fin_id2sym", ")", ":", "id2sym", "=", "{", "}", "cmpl", "=", "re", ".", "compile", "(", "r'^\\s*(\\S+)[\\s,;]+(\\S+)'", ")", "with", "open", "(", "fin_id2sym", ")", "as", "ifstrm", ":", "for", "line", "in", "ifstrm", ":", "mtch", "=", "cmpl", ".", "search", "(", "line", ")", "if", "mtch", ":", "id2sym", "[", "mtch", ".", "group", "(", "1", ")", "]", "=", "mtch", ".", "group", "(", "2", ")", "return", "id2sym" ]

[ "def", "calc_regenerated", "(", "self", ",", "lastvotetime", ")", ":", "delta", "=", "datetime", ".", "utcnow", "(", ")", "-", "datetime", ".", "strptime", "(", "lastvotetime", ",", "'%Y-%m-%dT%H:%M:%S'", ")", "td", "=", "delta", ".", "days", "ts", "=", "delta", ".", "seconds", "tt", "=", "(", "td", "*", "86400", ")", "+", "ts", "return", "tt", "*", "10000", "/", "86400", "/", "5" ]

[ "def", "compare_root_path", "(", "path_cost1", ",", "path_cost2", ",", "bridge_id1", ",", "bridge_id2", ",", "port_id1", ",", "port_id2", ")", ":", "result", "=", "Stp", ".", "_cmp_value", "(", "path_cost1", ",", "path_cost2", ")", "if", "not", "result", ":", "result", "=", "Stp", ".", "_cmp_value", "(", "bridge_id1", ",", "bridge_id2", ")", "if", "not", "result", ":", "result", "=", "Stp", ".", "_cmp_value", "(", "port_id1", ",", "port_id2", ")", "return", "result" ]

[ "def", "update_feature_type_rates", "(", "sender", ",", "instance", ",", "created", ",", "*", "args", ",", "*", "*", "kwargs", ")", ":", "if", "created", ":", "for", "role", "in", "ContributorRole", ".", "objects", ".", "all", "(", ")", ":", "FeatureTypeRate", ".", "objects", ".", "create", "(", "role", "=", "role", ",", "feature_type", "=", "instance", ",", "rate", "=", "0", ")" ]

[ "def", "_load", "(", "self", ")", ":", "indexfilename", "=", "os", ".", "path", ".", "join", "(", "self", ".", "__dir", ",", "\"index.dat\"", ")", "if", "os", ".", "path", ".", "exists", "(", "indexfilename", ")", ":", "data", "=", "self", ".", "_read_file", "(", "indexfilename", ")", "self", ".", "__index", "=", "data", "[", "0", "]", "self", ".", "__filename_rep", "=", "data", "[", "1", "]", "if", "self", ".", "__filename_rep", ".", "_sha1_sigs", "!=", "self", ".", "__sha1_sigs", ":", "print", "(", "(", "\"CACHE: Warning: sha1_sigs stored in the cache is set \"", "+", "\"to %s.\"", ")", "%", "self", ".", "__filename_rep", ".", "_sha1_sigs", ")", "print", "(", "\"Please remove the cache to change this setting.\"", ")", "self", ".", "__sha1_sigs", "=", "self", ".", "__filename_rep", ".", "_sha1_sigs", "else", ":", "self", ".", "__index", "=", "{", "}", "self", ".", "__filename_rep", "=", "filename_repository_t", "(", "self", ".", "__sha1_sigs", ")", "self", ".", "__modified_flag", "=", "False" ]

[ "def", "enum", "(", "option", ",", "*", "options", ")", ":", "options", "=", "(", "option", ",", ")", "+", "options", "rangeob", "=", "range", "(", "len", "(", "options", ")", ")", "try", ":", "inttype", "=", "_inttypes", "[", "int", "(", "np", ".", "log2", "(", "len", "(", "options", ")", "-", "1", ")", ")", "//", "8", "]", "except", "IndexError", ":", "raise", "OverflowError", "(", "'Cannot store enums with more than sys.maxsize elements, got %d'", "%", "len", "(", "options", ")", ",", ")", "class", "_enum", "(", "Structure", ")", ":", "_fields_", "=", "[", "(", "o", ",", "inttype", ")", "for", "o", "in", "options", "]", "def", "__iter__", "(", "self", ")", ":", "return", "iter", "(", "rangeob", ")", "def", "__contains__", "(", "self", ",", "value", ")", ":", "return", "0", "<=", "value", "<", "len", "(", "options", ")", "def", "__repr__", "(", "self", ")", ":", "return", "'<enum: %s>'", "%", "(", "(", "'%d fields'", "%", "len", "(", "options", ")", ")", "if", "len", "(", "options", ")", ">", "10", "else", "repr", "(", "options", ")", ")", "return", "_enum", "(", "*", "rangeob", ")" ]

[ "def", "beacon", "(", "config", ")", ":", "parts", "=", "psutil", ".", "disk_partitions", "(", "all", "=", "True", ")", "ret", "=", "[", "]", "for", "mounts", "in", "config", ":", "mount", "=", "next", "(", "iter", "(", "mounts", ")", ")", "# Because we're using regular expressions", "# if our mount doesn't end with a $, insert one.", "mount_re", "=", "mount", "if", "not", "mount", ".", "endswith", "(", "'$'", ")", ":", "mount_re", "=", "'{0}$'", ".", "format", "(", "mount", ")", "if", "salt", ".", "utils", ".", "platform", ".", "is_windows", "(", ")", ":", "# mount_re comes in formatted with a $ at the end", "# can be `C:\\\\$` or `C:\\\\\\\\$`", "# re string must be like `C:\\\\\\\\` regardless of \\\\ or \\\\\\\\", "# also, psutil returns uppercase", "mount_re", "=", "re", ".", "sub", "(", "r':\\\\\\$'", ",", "r':\\\\\\\\'", ",", "mount_re", ")", "mount_re", "=", "re", ".", "sub", "(", "r':\\\\\\\\\\$'", ",", "r':\\\\\\\\'", ",", "mount_re", ")", "mount_re", "=", "mount_re", ".", "upper", "(", ")", "for", "part", "in", "parts", ":", "if", "re", ".", "match", "(", "mount_re", ",", "part", ".", "mountpoint", ")", ":", "_mount", "=", "part", ".", "mountpoint", "try", ":", "_current_usage", "=", "psutil", ".", "disk_usage", "(", "_mount", ")", "except", "OSError", ":", "log", ".", "warning", "(", "'%s is not a valid mount point.'", ",", "_mount", ")", "continue", "current_usage", "=", "_current_usage", ".", "percent", "monitor_usage", "=", "mounts", "[", "mount", "]", "if", "'%'", "in", "monitor_usage", ":", "monitor_usage", "=", "re", ".", "sub", "(", "'%'", ",", "''", ",", "monitor_usage", ")", "monitor_usage", "=", "float", "(", "monitor_usage", ")", "if", "current_usage", ">=", "monitor_usage", ":", "ret", ".", "append", "(", "{", "'diskusage'", ":", "current_usage", ",", "'mount'", ":", "_mount", "}", ")", "return", "ret" ]

[ "def", "_local_update", "(", "self", ",", "rdict", ")", ":", "sanitized", "=", "self", ".", "_check_keys", "(", "rdict", ")", "temp_meta", "=", "self", ".", "_meta_data", "self", ".", "__dict__", "=", "sanitized", "self", ".", "_meta_data", "=", "temp_meta" ]

[ "def", "replace", "(", "self", ",", "key", ",", "value", ")", ":", "check_not_none", "(", "key", ",", "\"key can't be None\"", ")", "check_not_none", "(", "value", ",", "\"value can't be None\"", ")", "key_data", "=", "self", ".", "_to_data", "(", "key", ")", "value_data", "=", "self", ".", "_to_data", "(", "value", ")", "return", "self", ".", "_replace_internal", "(", "key_data", ",", "value_data", ")" ]

[ "def", "write_lines_to_file", "(", "cls_name", ",", "filename", ",", "lines", ",", "metadata_dict", ")", ":", "metadata_dict", "=", "metadata_dict", "or", "{", "}", "header_line", "=", "\"%s%s\"", "%", "(", "_HEADER_PREFIX", ",", "cls_name", ")", "metadata_line", "=", "\"%s%s\"", "%", "(", "_METADATA_PREFIX", ",", "json", ".", "dumps", "(", "metadata_dict", ",", "sort_keys", "=", "True", ")", ")", "with", "tf", ".", "io", ".", "gfile", ".", "GFile", "(", "filename", ",", "\"wb\"", ")", "as", "f", ":", "for", "line", "in", "[", "header_line", ",", "metadata_line", "]", ":", "f", ".", "write", "(", "tf", ".", "compat", ".", "as_bytes", "(", "line", ")", ")", "f", ".", "write", "(", "tf", ".", "compat", ".", "as_bytes", "(", "\"\\n\"", ")", ")", "if", "lines", ":", "f", ".", "write", "(", "tf", ".", "compat", ".", "as_bytes", "(", "\"\\n\"", ".", "join", "(", "lines", ")", ")", ")", "f", ".", "write", "(", "tf", ".", "compat", ".", "as_bytes", "(", "\"\\n\"", ")", ")" ]

[ "def", "write_lines_to_file", "(", "cls_name", ",", "filename", ",", "lines", ",", "metadata_dict", ")", ":", "metadata_dict", "=", "metadata_dict", "or", "{", "}", "header_line", "=", "\"%s%s\"", "%", "(", "_HEADER_PREFIX", ",", "cls_name", ")", "metadata_line", "=", "\"%s%s\"", "%", "(", "_METADATA_PREFIX", ",", "json", ".", "dumps", "(", "metadata_dict", ",", "sort_keys", "=", "True", ")", ")", "with", "tf", ".", "io", ".", "gfile", ".", "GFile", "(", "filename", ",", "\"wb\"", ")", "as", "f", ":", "for", "line", "in", "[", "header_line", ",", "metadata_line", "]", ":", "f", ".", "write", "(", "tf", ".", "compat", ".", "as_bytes", "(", "line", ")", ")", "f", ".", "write", "(", "tf", ".", "compat", ".", "as_bytes", "(", "\"\\n\"", ")", ")", "if", "lines", ":", "f", ".", "write", "(", "tf", ".", "compat", ".", "as_bytes", "(", "\"\\n\"", ".", "join", "(", "lines", ")", ")", ")", "f", ".", "write", "(", "tf", ".", "compat", ".", "as_bytes", "(", "\"\\n\"", ")", ")" ]

[ "def", "_sync", "(", "self", ")", ":", "if", "(", "self", ".", "_opcount", ">", "self", ".", "checkpoint_operations", "or", "datetime", ".", "now", "(", ")", ">", "self", ".", "_last_sync", "+", "self", ".", "checkpoint_timeout", ")", ":", "self", ".", "log", ".", "debug", "(", "\"Synchronizing queue metadata.\"", ")", "self", ".", "queue_metadata", ".", "sync", "(", ")", "self", ".", "_last_sync", "=", "datetime", ".", "now", "(", ")", "self", ".", "_opcount", "=", "0", "else", ":", "self", ".", "log", ".", "debug", "(", "\"NOT synchronizing queue metadata.\"", ")" ]

[ "async", "def", "update_lease_async", "(", "self", ",", "lease", ")", ":", "if", "lease", "is", "None", ":", "return", "False", "if", "not", "lease", ".", "token", ":", "return", "False", "_logger", ".", "debug", "(", "\"Updating lease %r %r\"", ",", "self", ".", "host", ".", "guid", ",", "lease", ".", "partition_id", ")", "# First, renew the lease to make sure the update will go through.", "if", "await", "self", ".", "renew_lease_async", "(", "lease", ")", ":", "try", ":", "await", "self", ".", "host", ".", "loop", ".", "run_in_executor", "(", "self", ".", "executor", ",", "functools", ".", "partial", "(", "self", ".", "storage_client", ".", "create_blob_from_text", ",", "self", ".", "lease_container_name", ",", "lease", ".", "partition_id", ",", "json", ".", "dumps", "(", "lease", ".", "serializable", "(", ")", ")", ",", "lease_id", "=", "lease", ".", "token", ")", ")", "except", "Exception", "as", "err", ":", "# pylint: disable=broad-except", "_logger", ".", "error", "(", "\"Failed to update lease %r %r %r\"", ",", "self", ".", "host", ".", "guid", ",", "lease", ".", "partition_id", ",", "err", ")", "raise", "err", "else", ":", "return", "False", "return", "True" ]

[ "def", "need_rejoin", "(", "self", ")", ":", "if", "not", "self", ".", "_subscription", ".", "partitions_auto_assigned", "(", ")", ":", "return", "False", "if", "self", ".", "_auto_assign_all_partitions", "(", ")", ":", "return", "False", "# we need to rejoin if we performed the assignment and metadata has changed", "if", "(", "self", ".", "_assignment_snapshot", "is", "not", "None", "and", "self", ".", "_assignment_snapshot", "!=", "self", ".", "_metadata_snapshot", ")", ":", "return", "True", "# we need to join if our subscription has changed since the last join", "if", "(", "self", ".", "_joined_subscription", "is", "not", "None", "and", "self", ".", "_joined_subscription", "!=", "self", ".", "_subscription", ".", "subscription", ")", ":", "return", "True", "return", "super", "(", "ConsumerCoordinator", ",", "self", ")", ".", "need_rejoin", "(", ")" ]

[ "def", "process_response", "(", "self", ",", "request", ",", "response", ")", ":", "try", ":", "modified", "=", "request", ".", "session", ".", "modified", "except", "AttributeError", ":", "pass", "else", ":", "if", "modified", "or", "settings", ".", "SESSION_SAVE_EVERY_REQUEST", ":", "if", "request", ".", "session", ".", "get_expire_at_browser_close", "(", ")", ":", "max_age", "=", "None", "expires", "=", "None", "else", ":", "max_age", "=", "request", ".", "session", ".", "get_expiry_age", "(", ")", "expires_time", "=", "time", ".", "time", "(", ")", "+", "max_age", "expires", "=", "cookie_date", "(", "expires_time", ")", "# Save the session data and refresh the client cookie.", "request", ".", "session", ".", "save", "(", ")", "response", ".", "set_cookie", "(", "settings", ".", "SESSION_COOKIE_NAME", ",", "request", ".", "session", ".", "session_key", ",", "max_age", "=", "max_age", ",", "expires", "=", "expires", ",", "domain", "=", "settings", ".", "SESSION_COOKIE_DOMAIN", ",", "path", "=", "settings", ".", "SESSION_COOKIE_PATH", ",", "secure", "=", "settings", ".", "SESSION_COOKIE_SECURE", "or", "None", ")", "return", "response" ]

[ "def", "_do_lumping", "(", "self", ")", ":", "c", "=", "copy", ".", "deepcopy", "(", "self", ".", "countsmat_", ")", "if", "self", ".", "sliding_window", ":", "c", "*=", "self", ".", "lag_time", "c", ",", "macro_map", ",", "statesKeep", "=", "self", ".", "_filterFunc", "(", "c", ")", "w", "=", "np", ".", "array", "(", "c", ".", "sum", "(", "axis", "=", "1", ")", ")", ".", "flatten", "(", ")", "w", "[", "statesKeep", "]", "+=", "1", "unmerged", "=", "np", ".", "zeros", "(", "w", ".", "shape", "[", "0", "]", ",", "dtype", "=", "np", ".", "int8", ")", "unmerged", "[", "statesKeep", "]", "=", "1", "# get nonzero indices in upper triangle", "indRecalc", "=", "self", ".", "_getInds", "(", "c", ",", "statesKeep", ")", "dMat", "=", "np", ".", "zeros", "(", "c", ".", "shape", ",", "dtype", "=", "np", ".", "float32", ")", "i", "=", "0", "nCurrentStates", "=", "statesKeep", ".", "shape", "[", "0", "]", "self", ".", "bayesFactors", "=", "{", "}", "dMat", ",", "minX", ",", "minY", "=", "self", ".", "_calcDMat", "(", "c", ",", "w", ",", "indRecalc", ",", "dMat", ",", "statesKeep", ",", "unmerged", ")", "while", "nCurrentStates", ">", "self", ".", "n_macrostates", ":", "c", ",", "w", ",", "indRecalc", ",", "dMat", ",", "macro_map", ",", "statesKeep", ",", "unmerged", ",", "minX", ",", "minY", "=", "self", ".", "_mergeTwoClosestStates", "(", "c", ",", "w", ",", "indRecalc", ",", "dMat", ",", "macro_map", ",", "statesKeep", ",", "minX", ",", "minY", ",", "unmerged", ")", "nCurrentStates", "-=", "1", "if", "self", ".", "save_all_maps", ":", "saved_map", "=", "copy", ".", "deepcopy", "(", "macro_map", ")", "self", ".", "map_dict", "[", "nCurrentStates", "]", "=", "saved_map", "if", "nCurrentStates", "-", "1", "==", "self", ".", "n_macrostates", ":", "self", ".", "microstate_mapping_", "=", "macro_map" ]

[ "def", "preprocess_cell", "(", "self", ",", "cell", ":", "\"NotebookNode\"", ",", "resources", ":", "dict", ",", "index", ":", "int", ")", "->", "Tuple", "[", "\"NotebookNode\"", ",", "dict", "]", ":", "if", "cell", ".", "cell_type", "==", "\"markdown\"", ":", "variables", "=", "cell", "[", "\"metadata\"", "]", ".", "get", "(", "\"variables\"", ",", "{", "}", ")", "if", "len", "(", "variables", ")", ">", "0", ":", "cell", ".", "source", "=", "self", ".", "replace_variables", "(", "cell", ".", "source", ",", "variables", ")", "if", "resources", ".", "get", "(", "\"delete_pymarkdown\"", ",", "False", ")", ":", "del", "cell", ".", "metadata", "[", "\"variables\"", "]", "return", "cell", ",", "resources" ]

[ "def", "update_if_client", "(", "fctn", ")", ":", "@", "functools", ".", "wraps", "(", "fctn", ")", "def", "_update_if_client", "(", "self", ",", "*", "args", ",", "*", "*", "kwargs", ")", ":", "b", "=", "self", ".", "_bundle", "if", "b", "is", "None", "or", "not", "hasattr", "(", "b", ",", "'is_client'", ")", ":", "return", "fctn", "(", "self", ",", "*", "args", ",", "*", "*", "kwargs", ")", "elif", "b", ".", "is_client", "and", "(", "b", ".", "_last_client_update", "is", "None", "or", "(", "datetime", ".", "now", "(", ")", "-", "b", ".", "_last_client_update", ")", ".", "seconds", ">", "1", ")", ":", "b", ".", "client_update", "(", ")", "return", "fctn", "(", "self", ",", "*", "args", ",", "*", "*", "kwargs", ")", "return", "_update_if_client" ]

[ "def", "patch", "(", "save", "=", "True", ",", "tensorboardX", "=", "tensorboardX_loaded", ")", ":", "global", "Summary", ",", "Event", "if", "tensorboardX", ":", "tensorboard_module", "=", "\"tensorboardX.writer\"", "if", "tensorflow_loaded", ":", "wandb", ".", "termlog", "(", "\"Found TensorboardX and tensorflow, pass tensorboardX=False to patch regular tensorboard.\"", ")", "from", "tensorboardX", ".", "proto", ".", "summary_pb2", "import", "Summary", "from", "tensorboardX", ".", "proto", ".", "event_pb2", "import", "Event", "else", ":", "tensorboard_module", "=", "\"tensorflow.python.summary.writer.writer\"", "from", "tensorflow", ".", "summary", "import", "Summary", ",", "Event", "writers", "=", "set", "(", ")", "def", "_add_event", "(", "self", ",", "event", ",", "step", ",", "walltime", "=", "None", ")", ":", "event", ".", "wall_time", "=", "time", ".", "time", "(", ")", "if", "walltime", "is", "None", "else", "walltime", "if", "step", "is", "not", "None", ":", "event", ".", "step", "=", "int", "(", "step", ")", "try", ":", "# TensorboardX uses _file_name", "if", "hasattr", "(", "self", ".", "event_writer", ".", "_ev_writer", ",", "\"_file_name\"", ")", ":", "name", "=", "self", ".", "event_writer", ".", "_ev_writer", ".", "_file_name", "else", ":", "name", "=", "self", ".", "event_writer", ".", "_ev_writer", ".", "FileName", "(", ")", ".", "decode", "(", "\"utf-8\"", ")", "writers", ".", "add", "(", "name", ")", "# This is a little hacky, there is a case where the log_dir changes.", "# Because the events files will have the same names in sub directories", "# we simply overwrite the previous symlink in wandb.save if the log_dir", "# changes.", "log_dir", "=", "os", ".", "path", ".", "dirname", "(", "os", ".", "path", ".", "commonprefix", "(", "list", "(", "writers", ")", ")", ")", "filename", "=", "os", ".", "path", ".", "basename", "(", "name", ")", "# Tensorboard loads all tfevents files in a directory and prepends", "# their values with the path. Passing namespace to log allows us", "# to nest the values in wandb", "namespace", "=", "name", ".", "replace", "(", "filename", ",", "\"\"", ")", ".", "replace", "(", "log_dir", ",", "\"\"", ")", ".", "strip", "(", "os", ".", "sep", ")", "if", "save", ":", "wandb", ".", "save", "(", "name", ",", "base_path", "=", "log_dir", ")", "wandb", ".", "save", "(", "os", ".", "path", ".", "join", "(", "log_dir", ",", "\"*.pbtxt\"", ")", ",", "base_path", "=", "log_dir", ")", "log", "(", "event", ",", "namespace", "=", "namespace", ",", "step", "=", "event", ".", "step", ")", "except", "Exception", "as", "e", ":", "wandb", ".", "termerror", "(", "\"Unable to log event %s\"", "%", "e", ")", "# six.reraise(type(e), e, sys.exc_info()[2])", "self", ".", "event_writer", ".", "add_event", "(", "event", ")", "writer", "=", "wandb", ".", "util", ".", "get_module", "(", "tensorboard_module", ")", "writer", ".", "SummaryToEventTransformer", ".", "_add_event", "=", "_add_event" ]

[ "def", "get_hostname", "(", "cls", ",", "container_name", ",", "client_name", "=", "None", ")", ":", "base_name", "=", "container_name", "for", "old", ",", "new", "in", "cls", ".", "hostname_replace", ":", "base_name", "=", "base_name", ".", "replace", "(", "old", ",", "new", ")", "if", "not", "client_name", "or", "client_name", "==", "cls", ".", "default_client_name", ":", "return", "base_name", "client_suffix", "=", "client_name", "for", "old", ",", "new", "in", "cls", ".", "hostname_replace", ":", "client_suffix", "=", "client_suffix", ".", "replace", "(", "old", ",", "new", ")", "return", "'{0}-{1}'", ".", "format", "(", "base_name", ",", "client_suffix", ")" ]

[ "def", "get_hostname", "(", "cls", ",", "container_name", ",", "client_name", "=", "None", ")", ":", "base_name", "=", "container_name", "for", "old", ",", "new", "in", "cls", ".", "hostname_replace", ":", "base_name", "=", "base_name", ".", "replace", "(", "old", ",", "new", ")", "if", "not", "client_name", "or", "client_name", "==", "cls", ".", "default_client_name", ":", "return", "base_name", "client_suffix", "=", "client_name", "for", "old", ",", "new", "in", "cls", ".", "hostname_replace", ":", "client_suffix", "=", "client_suffix", ".", "replace", "(", "old", ",", "new", ")", "return", "'{0}-{1}'", ".", "format", "(", "base_name", ",", "client_suffix", ")" ]

[ "def", "download_next_song", "(", "self", ",", "song", ")", ":", "dl_ydl_opts", "=", "dict", "(", "ydl_opts", ")", "dl_ydl_opts", "[", "\"progress_hooks\"", "]", "=", "[", "self", ".", "ytdl_progress_hook", "]", "dl_ydl_opts", "[", "\"outtmpl\"", "]", "=", "self", ".", "output_format", "# Move the songs from the next cache to the current cache", "self", ".", "move_next_cache", "(", ")", "self", ".", "state", "=", "'ready'", "self", ".", "play_empty", "(", ")", "# Download the file and create the stream", "with", "youtube_dl", ".", "YoutubeDL", "(", "dl_ydl_opts", ")", "as", "ydl", ":", "try", ":", "ydl", ".", "download", "(", "[", "song", "]", ")", "except", "DownloadStreamException", ":", "# This is a livestream, use the appropriate player", "future", "=", "asyncio", ".", "run_coroutine_threadsafe", "(", "self", ".", "create_stream_player", "(", "song", ",", "dl_ydl_opts", ")", ",", "client", ".", "loop", ")", "try", ":", "future", ".", "result", "(", ")", "except", "Exception", "as", "e", ":", "logger", ".", "exception", "(", "e", ")", "self", ".", "vafter_ts", "(", ")", "return", "except", "PermissionError", ":", "# File is still in use, it'll get cleared next time", "pass", "except", "youtube_dl", ".", "utils", ".", "DownloadError", "as", "e", ":", "self", ".", "logger", ".", "exception", "(", "e", ")", "self", ".", "statuslog", ".", "error", "(", "e", ")", "self", ".", "vafter_ts", "(", ")", "return", "except", "Exception", "as", "e", ":", "self", ".", "logger", ".", "exception", "(", "e", ")", "self", ".", "vafter_ts", "(", ")", "return" ]

[ "def", "add_item", "(", "self", ",", "item_url", ",", "item_metadata", ")", ":", "c", "=", "self", ".", "conn", ".", "cursor", "(", ")", "c", ".", "execute", "(", "\"DELETE FROM items WHERE url=?\"", ",", "(", "str", "(", "item_url", ")", ",", ")", ")", "self", ".", "conn", ".", "commit", "(", ")", "c", ".", "execute", "(", "\"INSERT INTO items VALUES (?, ?, ?)\"", ",", "(", "str", "(", "item_url", ")", ",", "item_metadata", ",", "self", ".", "__now_iso_8601", "(", ")", ")", ")", "self", ".", "conn", ".", "commit", "(", ")", "c", ".", "close", "(", ")" ]

[ "def", "__expire_files", "(", "self", ")", ":", "self", ".", "__files", "=", "OrderedDict", "(", "item", "for", "item", "in", "self", ".", "__files", ".", "items", "(", ")", "if", "not", "item", "[", "1", "]", ".", "expired", ")" ]

[ "def", "get_minimum_score_metadata", "(", "self", ")", ":", "# Implemented from template for osid.resource.ResourceForm.get_group_metadata_template", "metadata", "=", "dict", "(", "self", ".", "_mdata", "[", "'minimum_score'", "]", ")", "metadata", ".", "update", "(", "{", "'existing_cardinal_values'", ":", "self", ".", "_my_map", "[", "'minimumScore'", "]", "}", ")", "return", "Metadata", "(", "*", "*", "metadata", ")" ]

[ "def", "get_minimum_score_metadata", "(", "self", ")", ":", "# Implemented from template for osid.resource.ResourceForm.get_group_metadata_template", "metadata", "=", "dict", "(", "self", ".", "_mdata", "[", "'minimum_score'", "]", ")", "metadata", ".", "update", "(", "{", "'existing_cardinal_values'", ":", "self", ".", "_my_map", "[", "'minimumScore'", "]", "}", ")", "return", "Metadata", "(", "*", "*", "metadata", ")" ]

[ "def", "unbind", "(", "self", ",", "devices_to_unbind", ")", ":", "if", "self", ".", "entity_api_key", "==", "\"\"", ":", "return", "{", "'status'", ":", "'failure'", ",", "'response'", ":", "'No API key found in request'", "}", "url", "=", "self", ".", "base_url", "+", "\"api/0.1.0/subscribe/unbind\"", "headers", "=", "{", "\"apikey\"", ":", "self", ".", "entity_api_key", "}", "data", "=", "{", "\"exchange\"", ":", "\"amq.topic\"", ",", "\"keys\"", ":", "devices_to_unbind", ",", "\"queue\"", ":", "self", ".", "entity_id", "}", "with", "self", ".", "no_ssl_verification", "(", ")", ":", "r", "=", "requests", ".", "delete", "(", "url", ",", "json", "=", "data", ",", "headers", "=", "headers", ")", "print", "(", "r", ")", "response", "=", "dict", "(", ")", "if", "\"No API key\"", "in", "str", "(", "r", ".", "content", ".", "decode", "(", "\"utf-8\"", ")", ")", ":", "response", "[", "\"status\"", "]", "=", "\"failure\"", "r", "=", "json", ".", "loads", "(", "r", ".", "content", ".", "decode", "(", "\"utf-8\"", ")", ")", "[", "'message'", "]", "elif", "'unbind'", "in", "str", "(", "r", ".", "content", ".", "decode", "(", "\"utf-8\"", ")", ")", ":", "response", "[", "\"status\"", "]", "=", "\"success\"", "r", "=", "r", ".", "content", ".", "decode", "(", "\"utf-8\"", ")", "else", ":", "response", "[", "\"status\"", "]", "=", "\"failure\"", "r", "=", "r", ".", "content", ".", "decode", "(", "\"utf-8\"", ")", "response", "[", "\"response\"", "]", "=", "str", "(", "r", ")", "return", "response" ]

[ "def", "unbind", "(", "self", ",", "devices_to_unbind", ")", ":", "if", "self", ".", "entity_api_key", "==", "\"\"", ":", "return", "{", "'status'", ":", "'failure'", ",", "'response'", ":", "'No API key found in request'", "}", "url", "=", "self", ".", "base_url", "+", "\"api/0.1.0/subscribe/unbind\"", "headers", "=", "{", "\"apikey\"", ":", "self", ".", "entity_api_key", "}", "data", "=", "{", "\"exchange\"", ":", "\"amq.topic\"", ",", "\"keys\"", ":", "devices_to_unbind", ",", "\"queue\"", ":", "self", ".", "entity_id", "}", "with", "self", ".", "no_ssl_verification", "(", ")", ":", "r", "=", "requests", ".", "delete", "(", "url", ",", "json", "=", "data", ",", "headers", "=", "headers", ")", "print", "(", "r", ")", "response", "=", "dict", "(", ")", "if", "\"No API key\"", "in", "str", "(", "r", ".", "content", ".", "decode", "(", "\"utf-8\"", ")", ")", ":", "response", "[", "\"status\"", "]", "=", "\"failure\"", "r", "=", "json", ".", "loads", "(", "r", ".", "content", ".", "decode", "(", "\"utf-8\"", ")", ")", "[", "'message'", "]", "elif", "'unbind'", "in", "str", "(", "r", ".", "content", ".", "decode", "(", "\"utf-8\"", ")", ")", ":", "response", "[", "\"status\"", "]", "=", "\"success\"", "r", "=", "r", ".", "content", ".", "decode", "(", "\"utf-8\"", ")", "else", ":", "response", "[", "\"status\"", "]", "=", "\"failure\"", "r", "=", "r", ".", "content", ".", "decode", "(", "\"utf-8\"", ")", "response", "[", "\"response\"", "]", "=", "str", "(", "r", ")", "return", "response" ]

[ "async", "def", "async_delete_api_key", "(", "session", ",", "host", ",", "port", ",", "api_key", ")", ":", "url", "=", "'http://{host}:{port}/api/{api_key}/config/whitelist/{api_key}'", ".", "format", "(", "host", "=", "host", ",", "port", "=", "str", "(", "port", ")", ",", "api_key", "=", "api_key", ")", "response", "=", "await", "async_request", "(", "session", ".", "delete", ",", "url", ")", "_LOGGER", ".", "info", "(", "response", ")" ]

[ "def", "clear_key_before", "(", "self", ",", "key", ",", "namespace", "=", "None", ",", "timestamp", "=", "None", ")", ":", "block_size", "=", "self", ".", "config", ".", "block_size", "if", "namespace", "is", "None", ":", "namespace", "=", "self", ".", "config", ".", "namespace", "if", "timestamp", "is", "not", "None", ":", "offset", ",", "remainder", "=", "divmod", "(", "timestamp", ",", "block_size", ")", "if", "remainder", ":", "raise", "ValueError", "(", "'timestamp must be on a block boundary'", ")", "if", "offset", "==", "0", ":", "raise", "ValueError", "(", "'cannot delete before offset zero'", ")", "offset", "-=", "1", "self", ".", "driver", ".", "clear_key_before", "(", "key", ",", "namespace", ",", "offset", ",", "timestamp", ")", "else", ":", "self", ".", "driver", ".", "clear_key_before", "(", "key", ",", "namespace", ")" ]

[ "def", "remove_async_sns_topic", "(", "self", ",", "lambda_name", ")", ":", "topic_name", "=", "get_topic_name", "(", "lambda_name", ")", "removed_arns", "=", "[", "]", "for", "sub", "in", "self", ".", "sns_client", ".", "list_subscriptions", "(", ")", "[", "'Subscriptions'", "]", ":", "if", "topic_name", "in", "sub", "[", "'TopicArn'", "]", ":", "self", ".", "sns_client", ".", "delete_topic", "(", "TopicArn", "=", "sub", "[", "'TopicArn'", "]", ")", "removed_arns", ".", "append", "(", "sub", "[", "'TopicArn'", "]", ")", "return", "removed_arns" ]

[ "def", "ConsultarProvincias", "(", "self", ",", "sep", "=", "\"||\"", ")", ":", "ret", "=", "self", ".", "client", ".", "provinciasConsultar", "(", "auth", "=", "{", "'token'", ":", "self", ".", "Token", ",", "'sign'", ":", "self", ".", "Sign", ",", "'cuit'", ":", "self", ".", "Cuit", ",", "}", ",", ")", "[", "'provinciasReturn'", "]", "self", ".", "__analizar_errores", "(", "ret", ")", "array", "=", "ret", ".", "get", "(", "'provincias'", ",", "[", "]", ")", "if", "sep", "is", "None", ":", "return", "dict", "(", "[", "(", "int", "(", "it", "[", "'codigoDescripcion'", "]", "[", "'codigo'", "]", ")", ",", "it", "[", "'codigoDescripcion'", "]", "[", "'descripcion'", "]", ")", "for", "it", "in", "array", "]", ")", "else", ":", "return", "[", "(", "\"%s %%s %s %%s %s\"", "%", "(", "sep", ",", "sep", ",", "sep", ")", ")", "%", "(", "it", "[", "'codigoDescripcion'", "]", "[", "'codigo'", "]", ",", "it", "[", "'codigoDescripcion'", "]", "[", "'descripcion'", "]", ")", "for", "it", "in", "array", "]" ]

[ "def", "arcball_constrain_to_axis", "(", "point", ",", "axis", ")", ":", "v", "=", "np", ".", "array", "(", "point", ",", "dtype", "=", "np", ".", "float64", ",", "copy", "=", "True", ")", "a", "=", "np", ".", "array", "(", "axis", ",", "dtype", "=", "np", ".", "float64", ",", "copy", "=", "True", ")", "v", "-=", "a", "*", "np", ".", "dot", "(", "a", ",", "v", ")", "# on plane", "n", "=", "vector_norm", "(", "v", ")", "if", "n", ">", "_EPS", ":", "if", "v", "[", "2", "]", "<", "0.0", ":", "np", ".", "negative", "(", "v", ",", "v", ")", "v", "/=", "n", "return", "v", "if", "a", "[", "2", "]", "==", "1.0", ":", "return", "np", ".", "array", "(", "[", "1.0", ",", "0.0", ",", "0.0", "]", ")", "return", "unit_vector", "(", "[", "-", "a", "[", "1", "]", ",", "a", "[", "0", "]", ",", "0.0", "]", ")" ]

[ "def", "cudnnSetPooling2dDescriptor", "(", "poolingDesc", ",", "mode", ",", "windowHeight", ",", "windowWidth", ",", "verticalPadding", ",", "horizontalPadding", ",", "verticalStride", ",", "horizontalStride", ")", ":", "status", "=", "_libcudnn", ".", "cudnnSetPooling2dDescriptor", "(", "poolingDesc", ",", "mode", ",", "windowHeight", ",", "windowWidth", ",", "verticalPadding", ",", "horizontalPadding", ",", "verticalStride", ",", "horizontalStride", ")", "cudnnCheckStatus", "(", "status", ")" ]

[ "def", "get_new_connection", "(", "self", ",", "conn_params", ")", ":", "connection", "=", "ldap", ".", "ldapobject", ".", "ReconnectLDAPObject", "(", "uri", "=", "conn_params", "[", "'uri'", "]", ",", "retry_max", "=", "conn_params", "[", "'retry_max'", "]", ",", "retry_delay", "=", "conn_params", "[", "'retry_delay'", "]", ",", "bytes_mode", "=", "False", ")", "options", "=", "conn_params", "[", "'options'", "]", "for", "opt", ",", "value", "in", "options", ".", "items", "(", ")", ":", "if", "opt", "==", "'query_timeout'", ":", "connection", ".", "timeout", "=", "int", "(", "value", ")", "elif", "opt", "==", "'page_size'", ":", "self", ".", "page_size", "=", "int", "(", "value", ")", "else", ":", "connection", ".", "set_option", "(", "opt", ",", "value", ")", "if", "conn_params", "[", "'tls'", "]", ":", "connection", ".", "start_tls_s", "(", ")", "connection", ".", "simple_bind_s", "(", "conn_params", "[", "'bind_dn'", "]", ",", "conn_params", "[", "'bind_pw'", "]", ",", ")", "return", "connection" ]

[ "def", "_stream_annotation", "(", "file_name", ",", "pb_dir", ")", ":", "# Full url of annotation file", "url", "=", "posixpath", ".", "join", "(", "config", ".", "db_index_url", ",", "pb_dir", ",", "file_name", ")", "# Get the content", "response", "=", "requests", ".", "get", "(", "url", ")", "# Raise HTTPError if invalid url", "response", ".", "raise_for_status", "(", ")", "# Convert to numpy array", "ann_data", "=", "np", ".", "fromstring", "(", "response", ".", "content", ",", "dtype", "=", "np", ".", "dtype", "(", "'<u1'", ")", ")", "return", "ann_data" ]

[ "def", "_put_options", "(", "self", ",", "options_list", ")", ":", "new_options", "=", "self", ".", "_options", ".", "copy", "(", ")", "# make a full copy of the dict not to only link it and update dict in place", "new_options", ".", "update", "(", "{", "\"value_choices\"", ":", "options_list", "}", ")", "validate", "(", "new_options", ",", "options_json_schema", ")", "url", "=", "self", ".", "_client", ".", "_build_url", "(", "'property'", ",", "property_id", "=", "self", ".", "id", ")", "response", "=", "self", ".", "_client", ".", "_request", "(", "'PUT'", ",", "url", ",", "json", "=", "{", "'options'", ":", "new_options", "}", ")", "if", "response", ".", "status_code", "!=", "200", ":", "# pragma: no cover", "raise", "APIError", "(", "\"Could not update property value. Response: {}\"", ".", "format", "(", "str", "(", "response", ")", ")", ")", "else", ":", "self", ".", "_options", "=", "new_options" ]

[ "def", "_sync_with_file", "(", "self", ")", ":", "self", ".", "_records", "=", "[", "]", "i", "=", "-", "1", "for", "i", ",", "line", "in", "self", ".", "_enum_lines", "(", ")", ":", "self", ".", "_records", ".", "append", "(", "None", ")", "self", ".", "_last_synced_index", "=", "i" ]

[ "def", "volumes_delete", "(", "storage_pool", ",", "logger", ")", ":", "try", ":", "for", "vol_name", "in", "storage_pool", ".", "listVolumes", "(", ")", ":", "try", ":", "vol", "=", "storage_pool", ".", "storageVolLookupByName", "(", "vol_name", ")", "vol", ".", "delete", "(", "0", ")", "except", "libvirt", ".", "libvirtError", ":", "logger", ".", "exception", "(", "\"Unable to delete storage volume %s.\"", ",", "vol_name", ")", "except", "libvirt", ".", "libvirtError", ":", "logger", ".", "exception", "(", "\"Unable to delete storage volumes.\"", ")" ]

[ "def", "logEndTime", "(", ")", ":", "logger", ".", "info", "(", "'\\n'", "+", "'#'", "*", "70", ")", "logger", ".", "info", "(", "'Complete'", ")", "logger", ".", "info", "(", "datetime", ".", "today", "(", ")", ".", "strftime", "(", "\"%A, %d %B %Y %I:%M%p\"", ")", ")", "logger", ".", "info", "(", "'#'", "*", "70", "+", "'\\n'", ")" ]

[ "def", "handle_simulation_end", "(", "self", ",", "data_portal", ")", ":", "log", ".", "info", "(", "'Simulated {} trading days\\n'", "'first open: {}\\n'", "'last close: {}'", ",", "self", ".", "_session_count", ",", "self", ".", "_trading_calendar", ".", "session_open", "(", "self", ".", "_first_session", ")", ",", "self", ".", "_trading_calendar", ".", "session_close", "(", "self", ".", "_last_session", ")", ",", ")", "packet", "=", "{", "}", "self", ".", "end_of_simulation", "(", "packet", ",", "self", ".", "_ledger", ",", "self", ".", "_trading_calendar", ",", "self", ".", "_sessions", ",", "data_portal", ",", "self", ".", "_benchmark_source", ",", ")", "return", "packet" ]

[ "def", "json_parse", "(", "self", ",", "response", ")", ":", "try", ":", "data", "=", "response", ".", "json", "(", ")", "except", "ValueError", ":", "data", "=", "{", "'meta'", ":", "{", "'status'", ":", "500", ",", "'msg'", ":", "'Server Error'", "}", ",", "'response'", ":", "{", "\"error\"", ":", "\"Malformed JSON or HTML was returned.\"", "}", "}", "# We only really care about the response if we succeed", "# and the error if we fail", "if", "200", "<=", "data", "[", "'meta'", "]", "[", "'status'", "]", "<=", "399", ":", "return", "data", "[", "'response'", "]", "else", ":", "return", "data" ]

[ "def", "center_cell_text", "(", "cell", ")", ":", "lines", "=", "cell", ".", "text", ".", "split", "(", "'\\n'", ")", "cell_width", "=", "len", "(", "lines", "[", "0", "]", ")", "-", "2", "truncated_lines", "=", "[", "''", "]", "for", "i", "in", "range", "(", "1", ",", "len", "(", "lines", ")", "-", "1", ")", ":", "truncated", "=", "lines", "[", "i", "]", "[", "2", ":", "len", "(", "lines", "[", "i", "]", ")", "-", "2", "]", ".", "rstrip", "(", ")", "truncated_lines", ".", "append", "(", "truncated", ")", "truncated_lines", ".", "append", "(", "''", ")", "max_line_length", "=", "get_longest_line_length", "(", "'\\n'", ".", "join", "(", "truncated_lines", ")", ")", "remainder", "=", "cell_width", "-", "max_line_length", "left_width", "=", "math", ".", "floor", "(", "remainder", "/", "2", ")", "left_space", "=", "left_width", "*", "' '", "for", "i", "in", "range", "(", "len", "(", "truncated_lines", ")", ")", ":", "truncated_lines", "[", "i", "]", "=", "left_space", "+", "truncated_lines", "[", "i", "]", "right_width", "=", "cell_width", "-", "len", "(", "truncated_lines", "[", "i", "]", ")", "truncated_lines", "[", "i", "]", "+=", "right_width", "*", "' '", "for", "i", "in", "range", "(", "1", ",", "len", "(", "lines", ")", "-", "1", ")", ":", "lines", "[", "i", "]", "=", "''", ".", "join", "(", "[", "lines", "[", "i", "]", "[", "0", "]", ",", "truncated_lines", "[", "i", "]", ",", "lines", "[", "i", "]", "[", "-", "1", "]", "]", ")", "cell", ".", "text", "=", "'\\n'", ".", "join", "(", "lines", ")", "return", "cell" ]

[ "def", "getFileCategory", "(", "self", ",", "fileInfo", ")", ":", "category", "=", "fileInfo", "[", "fileInfo", ".", "find", "(", "\"Category\"", ")", ":", "]", "category", "=", "category", "[", "category", ".", "find", "(", "\"<FONT \"", ")", "+", "47", ":", "]", "category", "=", "category", "[", "category", ".", "find", "(", "'\">'", ")", "+", "2", ":", "]", "category", "=", "category", "[", ":", "category", ".", "find", "(", "\"</A></B>\"", ")", "-", "0", "]", "return", "category" ]

[ "def", "get_bundle", "(", "self", ",", "bundle_name", ",", "extensions", "=", "None", ")", ":", "if", "self", ".", "stats", ".", "get", "(", "'status'", ")", "==", "'done'", ":", "bundle", "=", "self", ".", "stats", ".", "get", "(", "'chunks'", ",", "{", "}", ")", ".", "get", "(", "bundle_name", ",", "None", ")", "if", "bundle", "is", "None", ":", "raise", "KeyError", "(", "'No such bundle {0!r}.'", ".", "format", "(", "bundle_name", ")", ")", "test", "=", "self", ".", "_chunk_filter", "(", "extensions", ")", "return", "[", "self", ".", "_add_url", "(", "c", ")", "for", "c", "in", "bundle", "if", "test", "(", "c", ")", "]", "elif", "self", ".", "stats", ".", "get", "(", "'status'", ")", "==", "'error'", ":", "raise", "RuntimeError", "(", "\"{error}: {message}\"", ".", "format", "(", "*", "*", "self", ".", "stats", ")", ")", "else", ":", "raise", "RuntimeError", "(", "\"Bad webpack stats file {0} status: {1!r}\"", ".", "format", "(", "self", ".", "state", ".", "stats_file", ",", "self", ".", "stats", ".", "get", "(", "'status'", ")", ")", ")" ]

[ "def", "sync_hooks", "(", "user_id", ",", "repositories", ")", ":", "from", ".", "api", "import", "GitHubAPI", "try", ":", "# Sync hooks", "gh", "=", "GitHubAPI", "(", "user_id", "=", "user_id", ")", "for", "repo_id", "in", "repositories", ":", "try", ":", "with", "db", ".", "session", ".", "begin_nested", "(", ")", ":", "gh", ".", "sync_repo_hook", "(", "repo_id", ")", "# We commit per repository, because while the task is running", "# the user might enable/disable a hook.", "db", ".", "session", ".", "commit", "(", ")", "except", "RepositoryAccessError", "as", "e", ":", "current_app", ".", "logger", ".", "warning", "(", "e", ".", "message", ",", "exc_info", "=", "True", ")", "except", "NoResultFound", ":", "pass", "# Repository not in DB yet", "except", "Exception", "as", "exc", ":", "sync_hooks", ".", "retry", "(", "exc", "=", "exc", ")" ]

[ "def", "update_cluster", "(", "cluster_ref", ",", "cluster_spec", ")", ":", "cluster_name", "=", "get_managed_object_name", "(", "cluster_ref", ")", "log", ".", "trace", "(", "'Updating cluster \\'%s\\''", ",", "cluster_name", ")", "try", ":", "task", "=", "cluster_ref", ".", "ReconfigureComputeResource_Task", "(", "cluster_spec", ",", "modify", "=", "True", ")", "except", "vim", ".", "fault", ".", "NoPermission", "as", "exc", ":", "log", ".", "exception", "(", "exc", ")", "raise", "salt", ".", "exceptions", ".", "VMwareApiError", "(", "'Not enough permissions. Required privilege: '", "'{}'", ".", "format", "(", "exc", ".", "privilegeId", ")", ")", "except", "vim", ".", "fault", ".", "VimFault", "as", "exc", ":", "log", ".", "exception", "(", "exc", ")", "raise", "salt", ".", "exceptions", ".", "VMwareApiError", "(", "exc", ".", "msg", ")", "except", "vmodl", ".", "RuntimeFault", "as", "exc", ":", "log", ".", "exception", "(", "exc", ")", "raise", "salt", ".", "exceptions", ".", "VMwareRuntimeError", "(", "exc", ".", "msg", ")", "wait_for_task", "(", "task", ",", "cluster_name", ",", "'ClusterUpdateTask'", ")" ]

[ "def", "reset_local_buffers", "(", "self", ")", ":", "agent_ids", "=", "list", "(", "self", ".", "keys", "(", ")", ")", "for", "k", "in", "agent_ids", ":", "self", "[", "k", "]", ".", "reset_agent", "(", ")" ]

[ "def", "to_javascript_data", "(", "plugins", ")", ":", "def", "escape", "(", "v", ")", ":", "return", "re", ".", "sub", "(", "r'\"'", ",", "r'\\\\\"'", ",", "v", ")", "def", "dom_matchers", "(", "p", ")", ":", "dom_matchers", "=", "p", ".", "get_matchers", "(", "'dom'", ")", "escaped_dom_matchers", "=", "[", "]", "for", "dm", "in", "dom_matchers", ":", "check_statement", ",", "version_statement", "=", "dm", "escaped_dom_matchers", ".", "append", "(", "{", "'check_statement'", ":", "escape", "(", "check_statement", ")", ",", "# Escape '' and not None", "'version_statement'", ":", "escape", "(", "version_statement", "or", "''", ")", ",", "}", ")", "return", "escaped_dom_matchers", "return", "[", "{", "'name'", ":", "p", ".", "name", ",", "'matchers'", ":", "dom_matchers", "(", "p", ")", "}", "for", "p", "in", "plugins", ".", "with_dom_matchers", "(", ")", "]" ]

[ "def", "set_soup", "(", "self", ")", ":", "self", ".", "soup", "=", "BeautifulSoup", "(", "self", ".", "feed_content", ",", "\"html.parser\"", ")", "for", "item", "in", "self", ".", "soup", ".", "findAll", "(", "'item'", ")", ":", "item", ".", "decompose", "(", ")", "for", "image", "in", "self", ".", "soup", ".", "findAll", "(", "'image'", ")", ":", "image", ".", "decompose", "(", ")" ]

[ "def", "_clean_workers", "(", "self", ")", ":", "while", "self", ".", "_bag_collector", ":", "self", ".", "_bag_collector", ".", "popleft", "(", ")", "self", ".", "_timer_worker_delete", ".", "stop", "(", ")" ]

[ "def", "_clean_workers", "(", "self", ")", ":", "while", "self", ".", "_bag_collector", ":", "self", ".", "_bag_collector", ".", "popleft", "(", ")", "self", ".", "_timer_worker_delete", ".", "stop", "(", ")" ]

[ "def", "delete_topic_groups", "(", "self", ",", "group_id", ",", "topic_id", ")", ":", "path", "=", "{", "}", "data", "=", "{", "}", "params", "=", "{", "}", "# REQUIRED - PATH - group_id\r", "\"\"\"ID\"\"\"", "path", "[", "\"group_id\"", "]", "=", "group_id", "# REQUIRED - PATH - topic_id\r", "\"\"\"ID\"\"\"", "path", "[", "\"topic_id\"", "]", "=", "topic_id", "self", ".", "logger", ".", "debug", "(", "\"DELETE /api/v1/groups/{group_id}/discussion_topics/{topic_id} with query params: {params} and form data: {data}\"", ".", "format", "(", "params", "=", "params", ",", "data", "=", "data", ",", "*", "*", "path", ")", ")", "return", "self", ".", "generic_request", "(", "\"DELETE\"", ",", "\"/api/v1/groups/{group_id}/discussion_topics/{topic_id}\"", ".", "format", "(", "*", "*", "path", ")", ",", "data", "=", "data", ",", "params", "=", "params", ",", "no_data", "=", "True", ")" ]

[ "def", "StartAndWait", "(", "self", ")", ":", "self", ".", "StartTask", "(", ")", "self", ".", "WaitUntilTaskDone", "(", "pydaq", ".", "DAQmx_Val_WaitInfinitely", ")", "self", ".", "ClearTask", "(", ")" ]

[ "def", "DeleteNotifications", "(", "self", ",", "session_ids", ",", "start", "=", "None", ",", "end", "=", "None", ")", ":", "if", "not", "session_ids", ":", "return", "for", "session_id", "in", "session_ids", ":", "if", "not", "isinstance", "(", "session_id", ",", "rdfvalue", ".", "SessionID", ")", ":", "raise", "RuntimeError", "(", "\"Can only delete notifications for rdfvalue.SessionIDs.\"", ")", "if", "start", "is", "None", ":", "start", "=", "0", "else", ":", "start", "=", "int", "(", "start", ")", "if", "end", "is", "None", ":", "end", "=", "self", ".", "frozen_timestamp", "or", "rdfvalue", ".", "RDFDatetime", ".", "Now", "(", ")", "for", "queue", ",", "ids", "in", "iteritems", "(", "collection", ".", "Group", "(", "session_ids", ",", "lambda", "session_id", ":", "session_id", ".", "Queue", "(", ")", ")", ")", ":", "queue_shards", "=", "self", ".", "GetAllNotificationShards", "(", "queue", ")", "self", ".", "data_store", ".", "DeleteNotifications", "(", "queue_shards", ",", "ids", ",", "start", ",", "end", ")" ]

[ "def", "preview", "(", "request", ")", ":", "if", "settings", ".", "MARKDOWN_PROTECT_PREVIEW", ":", "user", "=", "getattr", "(", "request", ",", "'user'", ",", "None", ")", "if", "not", "user", "or", "not", "user", ".", "is_staff", ":", "from", "django", ".", "contrib", ".", "auth", ".", "views", "import", "redirect_to_login", "return", "redirect_to_login", "(", "request", ".", "get_full_path", "(", ")", ")", "return", "render", "(", "request", ",", "settings", ".", "MARKDOWN_PREVIEW_TEMPLATE", ",", "dict", "(", "content", "=", "request", ".", "POST", ".", "get", "(", "'data'", ",", "'No content posted'", ")", ",", "css", "=", "settings", ".", "MARKDOWN_STYLE", ")", ")" ]

[ "def", "Copy_to_Clipboard", "(", "self", ",", "event", "=", "None", ")", ":", "bmp_obj", "=", "wx", ".", "BitmapDataObject", "(", ")", "bmp_obj", ".", "SetBitmap", "(", "self", ".", "bitmap", ")", "if", "not", "wx", ".", "TheClipboard", ".", "IsOpened", "(", ")", ":", "open_success", "=", "wx", ".", "TheClipboard", ".", "Open", "(", ")", "if", "open_success", ":", "wx", ".", "TheClipboard", ".", "SetData", "(", "bmp_obj", ")", "wx", ".", "TheClipboard", ".", "Close", "(", ")", "wx", ".", "TheClipboard", ".", "Flush", "(", ")" ]

[ "def", "run", "(", "self", ",", "handler", ")", ":", "import", "eventlet", ".", "patcher", "if", "not", "eventlet", ".", "patcher", ".", "is_monkey_patched", "(", "os", ")", ":", "msg", "=", "(", "\"%s requires eventlet.monkey_patch() (before \"", "\"import)\"", "%", "self", ".", "__class__", ".", "__name__", ")", "raise", "RuntimeError", "(", "msg", ")", "# Separate out wsgi.server arguments", "wsgi_args", "=", "{", "}", "for", "arg", "in", "(", "'log'", ",", "'environ'", ",", "'max_size'", ",", "'max_http_version'", ",", "'protocol'", ",", "'server_event'", ",", "'minimum_chunk_size'", ",", "'log_x_forwarded_for'", ",", "'custom_pool'", ",", "'keepalive'", ",", "'log_output'", ",", "'log_format'", ",", "'url_length_limit'", ",", "'debug'", ",", "'socket_timeout'", ",", "'capitalize_response_headers'", ")", ":", "try", ":", "wsgi_args", "[", "arg", "]", "=", "self", ".", "options", ".", "pop", "(", "arg", ")", "except", "KeyError", ":", "pass", "if", "'log_output'", "not", "in", "wsgi_args", ":", "wsgi_args", "[", "'log_output'", "]", "=", "not", "self", ".", "quiet", "import", "eventlet", ".", "wsgi", "sock", "=", "self", ".", "options", ".", "pop", "(", "'shared_socket'", ",", "None", ")", "or", "self", ".", "get_socket", "(", ")", "eventlet", ".", "wsgi", ".", "server", "(", "sock", ",", "handler", ",", "*", "*", "wsgi_args", ")" ]

[ "def", "friend", "(", "self", ",", "note", "=", "None", ",", "_unfriend", "=", "False", ")", ":", "self", ".", "reddit_session", ".", "evict", "(", "self", ".", "reddit_session", ".", "config", "[", "'friends'", "]", ")", "# Requests through password auth use /api/friend", "# Requests through oauth use /api/v1/me/friends/{username}", "if", "not", "self", ".", "reddit_session", ".", "is_oauth_session", "(", ")", ":", "modifier", "=", "_modify_relationship", "(", "'friend'", ",", "unlink", "=", "_unfriend", ")", "data", "=", "{", "'note'", ":", "note", "}", "if", "note", "else", "{", "}", "return", "modifier", "(", "self", ".", "reddit_session", ".", "user", ",", "self", ",", "*", "*", "data", ")", "url", "=", "self", ".", "reddit_session", ".", "config", "[", "'friend_v1'", "]", ".", "format", "(", "user", "=", "self", ".", "name", ")", "# This endpoint wants the data to be a string instead of an actual", "# dictionary, although it is not required to have any content for adds.", "# Unfriending does require the 'id' key.", "if", "_unfriend", ":", "data", "=", "{", "'id'", ":", "self", ".", "name", "}", "else", ":", "# We cannot send a null or empty note string.", "data", "=", "{", "'note'", ":", "note", "}", "if", "note", "else", "{", "}", "data", "=", "dumps", "(", "data", ")", "method", "=", "'DELETE'", "if", "_unfriend", "else", "'PUT'", "return", "self", ".", "reddit_session", ".", "request_json", "(", "url", ",", "data", "=", "data", ",", "method", "=", "method", ")" ]

[ "def", "DeleteNotifications", "(", "self", ",", "session_ids", ",", "start", "=", "None", ",", "end", "=", "None", ")", ":", "if", "not", "session_ids", ":", "return", "for", "session_id", "in", "session_ids", ":", "if", "not", "isinstance", "(", "session_id", ",", "rdfvalue", ".", "SessionID", ")", ":", "raise", "RuntimeError", "(", "\"Can only delete notifications for rdfvalue.SessionIDs.\"", ")", "if", "start", "is", "None", ":", "start", "=", "0", "else", ":", "start", "=", "int", "(", "start", ")", "if", "end", "is", "None", ":", "end", "=", "self", ".", "frozen_timestamp", "or", "rdfvalue", ".", "RDFDatetime", ".", "Now", "(", ")", "for", "queue", ",", "ids", "in", "iteritems", "(", "collection", ".", "Group", "(", "session_ids", ",", "lambda", "session_id", ":", "session_id", ".", "Queue", "(", ")", ")", ")", ":", "queue_shards", "=", "self", ".", "GetAllNotificationShards", "(", "queue", ")", "self", ".", "data_store", ".", "DeleteNotifications", "(", "queue_shards", ",", "ids", ",", "start", ",", "end", ")" ]

[ "def", "display", "(", "self", ",", "image", ")", ":", "assert", "(", "image", ".", "size", "==", "self", ".", "size", ")", "self", ".", "_last_image", "=", "image", "image", "=", "self", ".", "preprocess", "(", "image", ")", "surface", "=", "self", ".", "to_surface", "(", "image", ",", "alpha", "=", "self", ".", "_contrast", ")", "rawbytes", "=", "self", ".", "_pygame", ".", "image", ".", "tostring", "(", "surface", ",", "\"RGB\"", ",", "False", ")", "im", "=", "Image", ".", "frombytes", "(", "\"RGB\"", ",", "surface", ".", "get_size", "(", ")", ",", "rawbytes", ")", "self", ".", "_images", ".", "append", "(", "im", ")", "self", ".", "_count", "+=", "1", "logger", ".", "debug", "(", "\"Recording frame: {0}\"", ".", "format", "(", "self", ".", "_count", ")", ")", "if", "self", ".", "_max_frames", "and", "self", ".", "_count", ">=", "self", ".", "_max_frames", ":", "sys", ".", "exit", "(", "0", ")" ]

[ "def", "rmarkdown_draft", "(", "filename", ",", "template", ",", "package", ")", ":", "if", "file_exists", "(", "filename", ")", ":", "return", "filename", "draft_template", "=", "Template", "(", "'rmarkdown::draft(\"$filename\", template=\"$template\", package=\"$package\", edit=FALSE)'", ")", "draft_string", "=", "draft_template", ".", "substitute", "(", "filename", "=", "filename", ",", "template", "=", "template", ",", "package", "=", "package", ")", "report_dir", "=", "os", ".", "path", ".", "dirname", "(", "filename", ")", "rcmd", "=", "Rscript_cmd", "(", ")", "with", "chdir", "(", "report_dir", ")", ":", "do", ".", "run", "(", "[", "rcmd", ",", "\"--no-environ\"", ",", "\"-e\"", ",", "draft_string", "]", ",", "\"Creating bcbioRNASeq quality control template.\"", ")", "do", ".", "run", "(", "[", "\"sed\"", ",", "\"-i\"", ",", "\"s/YYYY-MM-DD\\///g\"", ",", "filename", "]", ",", "\"Editing bcbioRNAseq quality control template.\"", ")", "return", "filename" ]

[ "def", "read_avro", "(", "file_path_or_buffer", ",", "schema", "=", "None", ",", "*", "*", "kwargs", ")", ":", "if", "isinstance", "(", "file_path_or_buffer", ",", "six", ".", "string_types", ")", ":", "with", "open", "(", "file_path_or_buffer", ",", "'rb'", ")", "as", "f", ":", "return", "__file_to_dataframe", "(", "f", ",", "schema", ",", "*", "*", "kwargs", ")", "else", ":", "return", "__file_to_dataframe", "(", "file_path_or_buffer", ",", "schema", ",", "*", "*", "kwargs", ")" ]

[ "def", "DeleteNotifications", "(", "self", ",", "session_ids", ",", "start", "=", "None", ",", "end", "=", "None", ")", ":", "if", "not", "session_ids", ":", "return", "for", "session_id", "in", "session_ids", ":", "if", "not", "isinstance", "(", "session_id", ",", "rdfvalue", ".", "SessionID", ")", ":", "raise", "RuntimeError", "(", "\"Can only delete notifications for rdfvalue.SessionIDs.\"", ")", "if", "start", "is", "None", ":", "start", "=", "0", "else", ":", "start", "=", "int", "(", "start", ")", "if", "end", "is", "None", ":", "end", "=", "self", ".", "frozen_timestamp", "or", "rdfvalue", ".", "RDFDatetime", ".", "Now", "(", ")", "for", "queue", ",", "ids", "in", "iteritems", "(", "collection", ".", "Group", "(", "session_ids", ",", "lambda", "session_id", ":", "session_id", ".", "Queue", "(", ")", ")", ")", ":", "queue_shards", "=", "self", ".", "GetAllNotificationShards", "(", "queue", ")", "self", ".", "data_store", ".", "DeleteNotifications", "(", "queue_shards", ",", "ids", ",", "start", ",", "end", ")" ]

[ "def", "filename", "(", "self", ")", ":", "client_id", ",", "__", "=", "os", ".", "path", ".", "splitext", "(", "self", ".", "video", ".", "client_video_id", ")", "file_name", "=", "u'{name}-{language}.{format}'", ".", "format", "(", "name", "=", "client_id", ",", "language", "=", "self", ".", "language_code", ",", "format", "=", "self", ".", "file_format", ")", ".", "replace", "(", "'\\n'", ",", "' '", ")", "return", "file_name" ]

[ "def", "register", "(", "cls", ",", "interface_type", ",", "resource_class", ")", ":", "def", "_internal", "(", "python_class", ")", ":", "if", "(", "interface_type", ",", "resource_class", ")", "in", "cls", ".", "_session_classes", ":", "logger", ".", "warning", "(", "'%s is already registered in the ResourceManager. '", "'Overwriting with %s'", "%", "(", "(", "interface_type", ",", "resource_class", ")", ",", "python_class", ")", ")", "python_class", ".", "session_type", "=", "(", "interface_type", ",", "resource_class", ")", "cls", ".", "_session_classes", "[", "(", "interface_type", ",", "resource_class", ")", "]", "=", "python_class", "return", "python_class", "return", "_internal" ]

[ "async", "def", "async_delete_all_keys", "(", "session", ",", "host", ",", "port", ",", "api_key", ",", "api_keys", "=", "[", "]", ")", ":", "url", "=", "'http://{}:{}/api/{}/config'", ".", "format", "(", "host", ",", "str", "(", "port", ")", ",", "api_key", ")", "response", "=", "await", "async_request", "(", "session", ".", "get", ",", "url", ")", "api_keys", ".", "append", "(", "api_key", ")", "for", "key", "in", "response", "[", "'whitelist'", "]", ".", "keys", "(", ")", ":", "if", "key", "not", "in", "api_keys", ":", "await", "async_delete_api_key", "(", "session", ",", "host", ",", "port", ",", "key", ")" ]

[ "def", "validate", "(", "self", ")", ":", "if", "not", "self", ".", "start", ":", "raise", "ValueError", "(", "\"Event has no start date\"", ")", "if", "not", "self", ".", "end", ":", "raise", "ValueError", "(", "\"Event has no end date\"", ")", "if", "self", ".", "end", "<", "self", ".", "start", ":", "raise", "ValueError", "(", "\"Start date is after end date\"", ")", "if", "self", ".", "reminder_minutes_before_start", "and", "not", "isinstance", "(", "self", ".", "reminder_minutes_before_start", ",", "int", ")", ":", "raise", "TypeError", "(", "\"reminder_minutes_before_start must be of type int\"", ")", "if", "self", ".", "is_all_day", "and", "not", "isinstance", "(", "self", ".", "is_all_day", ",", "bool", ")", ":", "raise", "TypeError", "(", "\"is_all_day must be of type bool\"", ")" ]

[ "def", "bootstrap_from_webapi", "(", "self", ",", "cellid", "=", "0", ")", ":", "self", ".", "_LOG", ".", "debug", "(", "\"Attempting bootstrap via WebAPI\"", ")", "from", "steam", "import", "webapi", "try", ":", "resp", "=", "webapi", ".", "get", "(", "'ISteamDirectory'", ",", "'GetCMList'", ",", "1", ",", "params", "=", "{", "'cellid'", ":", "cellid", "}", ")", "except", "Exception", "as", "exp", ":", "self", ".", "_LOG", ".", "error", "(", "\"WebAPI boostrap failed: %s\"", "%", "str", "(", "exp", ")", ")", "return", "False", "result", "=", "EResult", "(", "resp", "[", "'response'", "]", "[", "'result'", "]", ")", "if", "result", "!=", "EResult", ".", "OK", ":", "self", ".", "_LOG", ".", "error", "(", "\"GetCMList failed with %s\"", "%", "repr", "(", "result", ")", ")", "return", "False", "serverlist", "=", "resp", "[", "'response'", "]", "[", "'serverlist'", "]", "self", ".", "_LOG", ".", "debug", "(", "\"Recieved %d servers from WebAPI\"", "%", "len", "(", "serverlist", ")", ")", "def", "str_to_tuple", "(", "serveraddr", ")", ":", "ip", ",", "port", "=", "serveraddr", ".", "split", "(", "':'", ")", "return", "str", "(", "ip", ")", ",", "int", "(", "port", ")", "self", ".", "clear", "(", ")", "self", ".", "merge_list", "(", "map", "(", "str_to_tuple", ",", "serverlist", ")", ")", "return", "True" ]

[ "def", "GetIndex", "(", "self", ")", ":", "if", "self", ".", "index", "is", "None", ":", "return", "None", "if", "self", ".", "index", ":", "res", ",", "ui", "=", "chmlib", ".", "chm_resolve_object", "(", "self", ".", "file", ",", "self", ".", "index", ")", "if", "(", "res", "!=", "chmlib", ".", "CHM_RESOLVE_SUCCESS", ")", ":", "return", "None", "size", ",", "text", "=", "chmlib", ".", "chm_retrieve_object", "(", "self", ".", "file", ",", "ui", ",", "0l", ",", "ui", ".", "length", ")", "if", "(", "size", "==", "0", ")", ":", "sys", ".", "stderr", ".", "write", "(", "'GetIndex: file size = 0\\n'", ")", "return", "None", "return", "text" ]

[ "def", "_strip_ctype", "(", "name", ",", "ctype", ",", "protocol", "=", "2", ")", ":", "# parse channel type from name (e.g. 'L1:GDS-CALIB_STRAIN,reduced')", "try", ":", "name", ",", "ctypestr", "=", "name", ".", "rsplit", "(", "','", ",", "1", ")", "except", "ValueError", ":", "pass", "else", ":", "ctype", "=", "Nds2ChannelType", ".", "find", "(", "ctypestr", ")", ".", "value", "# NDS1 stores channels with trend suffix, so we put it back:", "if", "protocol", "==", "1", "and", "ctype", "in", "(", "Nds2ChannelType", ".", "STREND", ".", "value", ",", "Nds2ChannelType", ".", "MTREND", ".", "value", ")", ":", "name", "+=", "',{0}'", ".", "format", "(", "ctypestr", ")", "return", "name", ",", "ctype" ]

[ "def", "_sync", "(", "self", ")", ":", "if", "(", "self", ".", "_opcount", ">", "self", ".", "checkpoint_operations", "or", "datetime", ".", "now", "(", ")", ">", "self", ".", "_last_sync", "+", "self", ".", "checkpoint_timeout", ")", ":", "self", ".", "log", ".", "debug", "(", "\"Synchronizing queue metadata.\"", ")", "self", ".", "queue_metadata", ".", "sync", "(", ")", "self", ".", "_last_sync", "=", "datetime", ".", "now", "(", ")", "self", ".", "_opcount", "=", "0", "else", ":", "self", ".", "log", ".", "debug", "(", "\"NOT synchronizing queue metadata.\"", ")" ]

[ "def", "_index_audio_cmu", "(", "self", ",", "basename", "=", "None", ",", "replace_already_indexed", "=", "False", ")", ":", "self", ".", "_prepare_audio", "(", "basename", "=", "basename", ",", "replace_already_indexed", "=", "replace_already_indexed", ")", "for", "staging_audio_basename", "in", "self", ".", "_list_audio_files", "(", "sub_dir", "=", "\"staging\"", ")", ":", "original_audio_name", "=", "''", ".", "join", "(", "staging_audio_basename", ".", "split", "(", "'.'", ")", "[", ":", "-", "1", "]", ")", "[", ":", "-", "3", "]", "pocketsphinx_command", "=", "''", ".", "join", "(", "[", "\"pocketsphinx_continuous\"", ",", "\"-infile\"", ",", "str", "(", "\"{}/staging/{}\"", ".", "format", "(", "self", ".", "src_dir", ",", "staging_audio_basename", ")", ")", ",", "\"-time\"", ",", "\"yes\"", ",", "\"-logfn\"", ",", "\"/dev/null\"", "]", ")", "try", ":", "if", "self", ".", "get_verbosity", "(", ")", ":", "print", "(", "\"Now indexing {}\"", ".", "format", "(", "staging_audio_basename", ")", ")", "output", "=", "subprocess", ".", "check_output", "(", "[", "\"pocketsphinx_continuous\"", ",", "\"-infile\"", ",", "str", "(", "\"{}/staging/{}\"", ".", "format", "(", "self", ".", "src_dir", ",", "staging_audio_basename", ")", ")", ",", "\"-time\"", ",", "\"yes\"", ",", "\"-logfn\"", ",", "\"/dev/null\"", "]", ",", "universal_newlines", "=", "True", ")", ".", "split", "(", "'\\n'", ")", "str_timestamps_with_sil_conf", "=", "list", "(", "map", "(", "lambda", "x", ":", "x", ".", "split", "(", "\" \"", ")", ",", "filter", "(", "None", ",", "output", "[", "1", ":", "]", ")", ")", ")", "# Timestamps are putted in a list of a single element. To match", "# Watson's output.", "self", ".", "__timestamps_unregulated", "[", "original_audio_name", "+", "\".wav\"", "]", "=", "[", "(", "self", ".", "_timestamp_extractor_cmu", "(", "staging_audio_basename", ",", "str_timestamps_with_sil_conf", ")", ")", "]", "if", "self", ".", "get_verbosity", "(", ")", ":", "print", "(", "\"Done indexing {}\"", ".", "format", "(", "staging_audio_basename", ")", ")", "except", "OSError", "as", "e", ":", "if", "self", ".", "get_verbosity", "(", ")", ":", "print", "(", "e", ",", "\"The command was: {}\"", ".", "format", "(", "pocketsphinx_command", ")", ")", "self", ".", "__errors", "[", "(", "time", "(", ")", ",", "staging_audio_basename", ")", "]", "=", "e", "self", ".", "_timestamp_regulator", "(", ")", "if", "self", ".", "get_verbosity", "(", ")", ":", "print", "(", "\"Finished indexing procedure\"", ")" ]

[ "def", "clear_key_before", "(", "self", ",", "key", ",", "namespace", "=", "None", ",", "timestamp", "=", "None", ")", ":", "block_size", "=", "self", ".", "config", ".", "block_size", "if", "namespace", "is", "None", ":", "namespace", "=", "self", ".", "config", ".", "namespace", "if", "timestamp", "is", "not", "None", ":", "offset", ",", "remainder", "=", "divmod", "(", "timestamp", ",", "block_size", ")", "if", "remainder", ":", "raise", "ValueError", "(", "'timestamp must be on a block boundary'", ")", "if", "offset", "==", "0", ":", "raise", "ValueError", "(", "'cannot delete before offset zero'", ")", "offset", "-=", "1", "self", ".", "driver", ".", "clear_key_before", "(", "key", ",", "namespace", ",", "offset", ",", "timestamp", ")", "else", ":", "self", ".", "driver", ".", "clear_key_before", "(", "key", ",", "namespace", ")" ]

[ "def", "get_welcome_response", "(", ")", ":", "session_attributes", "=", "{", "}", "card_title", "=", "\"Welcome\"", "speech_output", "=", "\"Welcome to the Alexa Skills Kit sample. \"", "\"Please tell me your favorite color by saying, \"", "\"my favorite color is red\"", "# If the user either does not reply to the welcome message or says something", "# that is not understood, they will be prompted again with this text.", "reprompt_text", "=", "\"Please tell me your favorite color by saying, \"", "\"my favorite color is red.\"", "should_end_session", "=", "False", "return", "build_response", "(", "session_attributes", ",", "build_speechlet_response", "(", "card_title", ",", "speech_output", ",", "reprompt_text", ",", "should_end_session", ")", ")" ]

[ "def", "__expire_files", "(", "self", ")", ":", "self", ".", "__files", "=", "OrderedDict", "(", "item", "for", "item", "in", "self", ".", "__files", ".", "items", "(", ")", "if", "not", "item", "[", "1", "]", ".", "expired", ")" ]

[ "def", "_MakeTimestamp", "(", "self", ",", "start", "=", "None", ",", "end", "=", "None", ")", ":", "mysql_unsigned_bigint_max", "=", "18446744073709551615", "ts_start", "=", "int", "(", "start", "or", "0", ")", "if", "end", "is", "None", ":", "ts_end", "=", "mysql_unsigned_bigint_max", "else", ":", "ts_end", "=", "int", "(", "end", ")", "if", "ts_start", "==", "0", "and", "ts_end", "==", "mysql_unsigned_bigint_max", ":", "return", "None", "else", ":", "return", "(", "ts_start", ",", "ts_end", ")" ]

[ "def", "_sim_texture", "(", "r1", ",", "r2", ")", ":", "return", "sum", "(", "[", "min", "(", "a", ",", "b", ")", "for", "a", ",", "b", "in", "zip", "(", "r1", "[", "\"hist_t\"", "]", ",", "r2", "[", "\"hist_t\"", "]", ")", "]", ")" ]

[ "def", "download_supplementary_files", "(", "self", ",", "directory", "=", "'series'", ",", "download_sra", "=", "True", ",", "email", "=", "None", ",", "sra_kwargs", "=", "None", ",", "nproc", "=", "1", ")", ":", "if", "sra_kwargs", "is", "None", ":", "sra_kwargs", "=", "dict", "(", ")", "if", "directory", "==", "'series'", ":", "dirpath", "=", "os", ".", "path", ".", "abspath", "(", "self", ".", "get_accession", "(", ")", "+", "\"_Supp\"", ")", "utils", ".", "mkdir_p", "(", "dirpath", ")", "else", ":", "dirpath", "=", "os", ".", "path", ".", "abspath", "(", "directory", ")", "utils", ".", "mkdir_p", "(", "dirpath", ")", "downloaded_paths", "=", "dict", "(", ")", "if", "nproc", "==", "1", ":", "# No need to parallelize, running ordinary download in loop", "downloaded_paths", "=", "dict", "(", ")", "for", "gsm", "in", "itervalues", "(", "self", ".", "gsms", ")", ":", "logger", ".", "info", "(", "\"Downloading SRA files for %s series\\n\"", "%", "gsm", ".", "name", ")", "paths", "=", "gsm", ".", "download_supplementary_files", "(", "email", "=", "email", ",", "download_sra", "=", "download_sra", ",", "directory", "=", "dirpath", ",", "sra_kwargs", "=", "sra_kwargs", ")", "downloaded_paths", "[", "gsm", ".", "name", "]", "=", "paths", "elif", "nproc", ">", "1", ":", "# Parallelization enabled", "downloaders", "=", "list", "(", ")", "# Collecting params for Pool.map in a loop", "for", "gsm", "in", "itervalues", "(", "self", ".", "gsms", ")", ":", "downloaders", ".", "append", "(", "[", "gsm", ",", "download_sra", ",", "email", ",", "dirpath", ",", "sra_kwargs", "]", ")", "p", "=", "Pool", "(", "nproc", ")", "results", "=", "p", ".", "map", "(", "_supplementary_files_download_worker", ",", "downloaders", ")", "downloaded_paths", "=", "dict", "(", "results", ")", "else", ":", "raise", "ValueError", "(", "\"Nproc should be non-negative: %s\"", "%", "str", "(", "nproc", ")", ")", "return", "downloaded_paths" ]

[ "def", "read", "(", "self", ",", "timeout", "=", "READ_TIMEOUT", ",", "raw", "=", "False", ")", ":", "time", ".", "sleep", "(", "READ_SLEEP_TIME", ")", "raw_out", "=", "self", ".", "ser", ".", "read", "(", "self", ".", "ser", ".", "in_waiting", ")", "out", "=", "raw_out", ".", "decode", "(", "OUTPUT_ENCODING", ")", "time_waiting", "=", "0", "while", "len", "(", "out", ")", "==", "0", "or", "ending_in", "(", "out", ".", "strip", "(", "OUTPUT_STRIP_CHARS", ")", ",", "RESPONSE_END_WORDS", ")", "is", "None", ":", "time", ".", "sleep", "(", "READ_SLEEP_TIME", ")", "time_waiting", "+=", "READ_SLEEP_TIME", "raw_out", "+=", "self", ".", "ser", ".", "read", "(", "self", ".", "ser", ".", "in_waiting", ")", "out", "=", "raw_out", ".", "decode", "(", "OUTPUT_ENCODING", ")", "# TODO how to handle timeouts, if they're now unexpected?", "if", "time_waiting", ">=", "timeout", ":", "break", "if", "raw", ":", "return", "raw_out", "return", "out" ]